大業十三年（617年），在隋崩潰瓦解的過程中，封建統治階級中的許多人為了保護自身的既得利益，紛紛起兵，軍閥混戰。如朔方鷹揚郎將梁師都、馬邑鷹揚府校尉劉武周，金城府校尉薛舉，武威鷹揚府司馬李軌，太原道安撫使（後升太原留守）李淵等，或擁兵割據，或起兵反隋，以圖在混亂中擴張自己的勢力，搶奪農民起義的勝利果。
次年三月，隋滅亡的那一年，太原留守李淵在長安稱帝，建立了唐朝。
李淵出身於關隴軍事貴族。史載：李淵祖先是隴西狄道人（甘肅臨洮），十六國的涼武昭王李需的後代；祖父李虎是北周宇文氏集團的中堅分子，“八柱國”之一，死後追封為“唐公”，父李炳是隋柱國大將軍，母獨孤氏和隋文帝皇后為從姊妹。李淵與隋煬帝實為姨表兄弟，所以李氏家族同北周、隋關係至為密切。李淵七歲時襲爵為唐國公，歷任刺史、郡守、衛尉少卿等職。
大業十二年（616年），李淵為山西河東撫慰大使時，看到隋王朝已臨滅亡的邊緣，便開始秘密進行活動。太原自北齊、北周以來，即號稱為“天下精兵”所在；當地貯存的物資亦十分豐富。
不久，全國政治、軍事形勢發生了重大變化。瓦崗軍攻破大隋金堤關、克滎陽等地，大敗隋勁旅張須陁部，逼近東都，江淮義軍在江都附近擊敗隋禁軍陳稜部，直接威脅江都；竇建德稱王於河北樂壽，控制河北之地。一批官僚土豪見隋大勢已去，紛紛起兵割據一方。李淵認為時機已到，於當年五月，殺死煬帝派來監視李淵的太原副留守王威和高君雅，起兵反隋。李淵起兵後，乘瓦崗軍“阻東都，斷隋歸路”之際，採取漢王劉邦“先入咸陽，號令天下“的方針，十一月乘虛進入長安，控制了關中地區。為了在政治上號令天下，也學曹操挾天子以令諸侯，擁立煬帝孫代王侑（you佑）為帝，也就是恭帝，尊煬帝為太上皇，李淵則自稱唐王、大丞相。
大業十四年（618年），煬帝被殺後，李淵廢恭帝，正式稱帝，建立唐朝，年號武德，建都長安。。
唐朝建立之時，中原形勢有了很大變化。盛極一時的瓦崗軍內部發生嚴重的裂痕。大業十三年（617年）三月，李密以狡猾而毒辣的手段殺死翟讓，從而直接地削弱了瓦崗軍的力量。
大業十四年（618年）三月，童山（今河南浚縣）之役，瓦崗軍的力量又遭到嚴重損失。同年九月，偃師之戰，李密又為佔據洛陽的王世充所擊敗。曾是反隋鬥爭的主力瓦崗軍瓦解了。鷸蚌相爭，李淵得利。
河北地區的竇建德，是隋亡後，全國各軍事集團中主要的力量之一。他的政治威信、軍隊素質以及裝備補給都很好。武德二年（619年）二月，
，軍事實力也有所發展。但是，竇建德在政治上沒有遠見，缺乏因時應勢的方針政策。他的軍隊三面處於李淵勢力的嚴重威脅下，卻並未積極採取措施，致使竇軍處於進退失據的境地。由於他同佔據洛陽的王世充不斷髮生軍事摩擦，也給自己造成了更多的困難，另一方面，竇軍士兵多是農民，隋亡後，“日夜思歸‘’，也影響了隊伍計程車氣和戰鬥力，對竇建德勢力的發展，十分不利。在全國紛亂不定的狀態中，李淵集團在建國後，立即著手做統一全國的準備。
河北地區的竇建德，是隋亡後，全國各軍事集團中主要的力量之一。他的政治威信、軍隊素質以及裝備補給都很好。武德二年（619年）二月，竇軍在山東聊城斬殺宇文化及，軍事實力也有所發展。但是，竇建德在政治上沒有遠見，缺乏因時應勢的方針政策。他的軍隊三面處於李淵勢力的嚴重威脅下，卻並未積極採取措施，致使竇軍處於進退失據的境地。由於他同佔據洛陽的王世充不斷髮生軍事摩擦，也給自己造成了更多的困難，另一方面，竇軍士兵多是農民，隋亡後，“日夜思歸‘’，也影響了隊伍計程車氣和戰鬥力，對竇建德勢力的發展，十分不利。在全國紛亂不定的狀態中，李淵集團在建國後，立即著手做統一全國的準備。
首先，李淵東聯李密，北和突厥，集中力量先解決西北問題。從武德元年到三年（ 618-620年），李唐軍隊打敗了薛仁果（音go稿，薛舉子）、劉武周兩個強敵。河西李軌因發生內變，不煩兵力，歸順於唐。關中和太原形勢穩定，使李淵得以集中力量角逐中原。
武德三年（620年）七月，唐軍出師河南，進攻洛陽王世充。次年二月，洛陽外圍據點多被唐軍控制，河南州縣大部降唐，王世充軍危在旦夕。竇建德出師救王世充，錯誤地打算與李淵、王世充鼎足三分。虎牢之役，竇軍潰敗，竇建德犧牲，王世充降唐，唐軍佔領河南、河北廣大地區。竇建德犧牲後，唐王朝為了加強對河北地區的控制，追捕起義將士，激起了以劉黑闥（音踏）為首的河北義軍的反抗。武德六年（623年）正月，義軍失敗。唐進一步穩定了在山東、河北的統治。
唐朝決戰中原的同時，又派軍經略江南。武德七年（624年），唐鞏固了在江南的統治地位。
唐太宗貞觀元年（628年），割據朔方的梁師都為部下所殺，餘部降唐。至此唐統一了全國，重新建立了地主階級在全國的統治。
