李渊本来做过刺史，在隋炀帝即位之初做了荥阳（今河南荥阳）、楼烦（今山西静乐县）两个郡的太守，厥后任殿内少监、卫尉少卿。公元613年（大业九年），隋炀帝挞伐高丽时，李渊在怀远镇督运粮草。这时，杨玄感操纵民愤举兵反隋，厥后失利。在这期间，李渊受命镇守弘化郡（今甘肃庆阳县），广交天下豪杰，遭到隋炀帝的猜忌。在615年调任山西、河东，达到龙门时，赶上了母端儿农夫叛逆，李渊领兵击败了叛逆兵，收编万余人，气力大增。第二年，他升为右骁卫将军，任太原道安抚大使，今后落脚太原，运营厥后的起家之地。
隋炀帝一死，李渊便甩开了隋恭帝，在618年（武德元年）逼杨侑禅位，称帝建立唐朝，改年号为武德，定都长安。
窦氏的聪明超出了普通人。隋炀帝看到李渊的脸上皱纹多，便戏称李渊是“阿婆”。李渊回了家很不欢畅，窦氏问清启事，顿时道贺道：“这是吉兆啊，你担当的是唐国公，‘唐’便是‘堂’，‘阿婆面’就是指‘堂主’啊！”窦氏指的是李渊将来要做天子，代替隋炀帝。
这时，李渊刚从太原起兵，瓦岗军首级李密便写信给李渊，想和他缔盟共图大计，实际上是想让李渊尊他为盟主。李渊收到信后，非常欢畅，他当时正需求有报酬他反对中原还没有被毁灭的隋朝军队，使他免除后顾之忧，集合兵力拿下长安。因而李渊给李密复书，对李密死力吹嘘，说本身没有代替隋朝之意，这就是李渊本身所说的“卑辞推奖以骄其志”的战略，先麻痹李密，让他反对中原的隋军西进。
李渊就以讨伐刘武周为名，开端招兵。因为这时还是以隋朝官员的名义行事，以是在很短的时候里便招到近万人。这遭到太原副留守王威和高君雅的猜忌，他们都是隋炀帝的亲信，对李渊很有戒心。李渊则拉拢、操纵他们身边的亲信把握其意向。等李渊要正式起兵时便设想锄掉了身边的两个隐患。
李渊本籍陇西成纪（今甘肃秦安），他的祖父李虎，是后魏的陇西郡公，官最高到太尉，身后追封唐国公，这就是厥后李渊所建大唐年号的来源。李渊的父亲担当了唐国公的封号，在北周时任柱国大将军。在公元566年（北周天和元年）出世于长安，仅7岁就担当了唐国公的称呼。因为有了较高的出身，加上他本人的豁达与刻薄、才调出众，是以他声望很高。他的老婆窦氏也是隋朝贵族出身，作为一名可贵的贤浑家，窦氏对李渊的感化不成忽视。
除了内患，李渊又智退突厥兵，然后与突厥和好，消弭了北方的威胁。
第二战是决斗霍邑（今山西霍县）。在霍邑的西北有个贾胡堡，是霍邑的流派，但保卫霍邑的宋须生却没有派兵扼守，李渊由此鉴定宋须生是个无能之辈。
李渊惊骇宋须生守城不出，打成耐久战对本身倒霉。李世民却以为能够应战引他出来决斗。因而李渊让两个儿子领几十名马队进城察看，本身将军队分红十几队，从城东南到西南，摆出一副安营攻城的架式。宋须生公然入彀，觉得李渊要攻城，便领兵三万出战。李渊领兵假装后退，让李建成和李世民领兵抢占了东门和南门，堵截了宋须生的退路。在交兵中李渊又漫衍宋须生已经战死的谎言，摆荡了隋军的军心。隋军大败，全军毁灭。宋须生也在被守军用绳索往城墙上提时，被李渊的军头卢军谔跳起杀死。李渊顺利占据了霍邑。
到618年（大业十四年）农历蒲月，隋炀帝的右屯卫将军宇文明及在江都兵变，勒死了隋炀帝，然后立秦王杨浩为帝，本身做大丞相，随后领兵十万北上，但被李密打败。宇文明及败走魏县（今河北大名东），毒死杨浩，本身称帝，建立郑国。第二年，过了天子瘾的宇文明及在聊城被窦建德杀死。