李渊的家族在其祖父李虎时便已开始飞黄腾达。李虎为后魏左仆射，封陇西郡公，官至太尉。李虎因为助后魏权臣宇文泰成功政变，与宇文泰、太保李弼、大司马独孤信等八人一起被称为“八柱国”，位极荣贵，死后追封唐国公。李渊的父亲李昞，袭封唐公，北周时任安州（今湖北安陆）总管、柱国大将军。李渊建国以后，追尊祖父李虎为太祖景皇帝，追尊父亲李昞为世祖元皇帝。
李氏祖上显然是依靠军功发迹的，被时人称为关陇贵族集团。后来，又倚赖婚姻巩固了家世门风。李氏家族与北周皇室及隋朝的姻亲关系，是以独孤氏为纽带的。独孤信的大女儿嫁给了宇文泰之子，即北周的第一个皇帝明帝，做了皇后。七女儿嫁给了杨忠的儿子杨坚，即后来的隋文帝，也做了皇后。四女儿嫁给了李虎的儿子李昞，这便是李渊的父母。由此可以看出，李渊家族自祖父以来便家世贵显，不仅与北周皇室宇文氏有着姻亲关系，而且与隋朝杨家有着贵戚关系，李渊与隋炀帝杨广互为姨表兄弟。在北周时期，李渊的父亲就迁居长安，天和元年（566年），李渊出生于长安（今西安市），后由于父亲早死，家中排行第四的李渊七岁就袭唐国公。李渊青年时，倜傥豁达，任性直率，宽仁容众，人缘极好。
李渊的妻子窦氏，也出生在一个军事贵族家庭。窦氏是京兆平陵（今陕西兴平）人，她的父亲是隋朝定州总管、神武公窦毅，母亲是北周武帝的姐姐襄阳长公主。窦氏自幼聪明，读书过目不忘，武帝宇文邕十分喜爱她，把她接入宫中抚育，常常随侍左右。
窦氏小小年纪就对政事十分关心，有独特的见解。窦毅认为自己的女儿才貌不凡，不能将其随便嫁人，就决定为女儿谨慎选择一位“贤夫”。于是当窦氏到了出阁年龄之时，窦毅命人在门屏上画了两只孔雀，能用箭射中孔雀眼睛的人才会入选。
四方英杰纷纷争相上门一试，但都没能如愿。李渊也慕名而来，他连发两箭各中孔雀一目，窦毅最终将女儿许配给了他。由此可见，李渊年轻时即卓尔不群。
窦氏嫁给李渊后，尽心尽力辅佐丈夫，每遇丈夫有难解之事总能一语中的，提出中肯意见。
北周亡国之时，窦家作为的姻亲，居然没有受到牵连，不能不说是因为窦氏与李渊结下的这门婚事。隋文帝独孤皇后与李渊的母亲是亲姐妹，即独孤皇后是李渊的姨母，窦家成为新的皇家姻亲，加之窦毅谨慎自守，对隋文帝小心侍候，所以才免遭祸患。李渊因姨母独孤皇后的关系，受隋文帝垂爱，在朝廷上十分受宠。
隋朝建立之初，李渊还只是因为贵族的出身补为千牛备身。在他此后的政治生涯中，窦氏起到了重要的作用，使他能够不断得以升迁。窦氏为李渊生有四子，建成、世民、元霸、元吉，一个女儿，即平阳公主，后嫁给柴绍为妻。
唐高祖李渊一出场就带着满身的富贵，他在前朝、当朝中的位置，因为姻亲的关系可谓左右逢源。在那极为重视家庭门第和姻亲关系的年代，李渊的出身无疑为他后来开创自家的天下提供了极大的便利，这是旁人所无法比拟的
