四月間的藍田（今陝西藍田西）之戰打得非常激烈。秦將苻生單騎突陣，在晉軍陣中衝出衝進十來次，殺傷雖多仍舊挽不回戰局，結果大敗而退。接下來，桓溫的兄弟桓衝又在白鹿原（在今藍田西）擊敗秦將苻雄。桓溫進到灞上（在白鹿原北，今西安東灞水上），苻健只帶六千老弱守長安小城，命雷弱兒等率僅有的三萬精兵抵敵晉軍。至此只有司馬勳一路人馬因遭苻雄襲擊，打得並不順利。
晉軍的勝利在關中引起巨大震動，郡縣守令都來投降，居民爭先恐後地帶了牛酒來慰勞將士，男男女女夾道觀看，並不畏懼。有些老人感動流淚，說：“不圖今日復見官軍！”（關中陷落已達三十八年）。
軍中缺糧，人員傷亡也無法補充。五月中再戰白鹿原，晉軍再也佔不到優勢，損失了一萬多兵力。六月初，桓溫只得撤走，秦軍隨後追擊，晉軍又損失了上萬人。
後來做了前秦苻堅的宰相的王猛，其時隱居華陰。他到軍中見桓溫，“捫蝨而談當世之務”。桓溫對他很佩服，問他：“吾奉天子之命，率銳師十萬，杖義討逆，為百姓除殘賊，而三秦豪傑未有至者何也？”王猛答道：“公不遠數千裡，深入寇境，長安咫尺而不渡灞水，百姓未見公心故也，所以不至。”
桓溫無話可答，只好另換話頭應付過去。桓溫撤走時，希望王猛跟他南下。王猛不肯，後來就為苻堅所用。
王猛和薛珍都認為桓溫應該渡灞水直逼長安，王猛更以為桓溫不急攻長安是另有用意。至於用意何在，後人多以為桓溫北伐的目的只是向朝廷示威，作為奪取政權的資本，而並沒有滅秦的決心。這也許是正確的，但並非沒有其他解釋的餘地。
桓溫如能一舉滅秦，他的政治資本豈不更足？桓溫或許是很想一舉滅秦，以樹立更大威望的，可是他對於初次見面的王猛，不可能直陳胸襟。他不是說了“十萬大軍”嗎？他不好對王猛說只有不滿四萬人。從他向王猛提的問題看，他除有以關中新麥補充軍糧的願望，還估計過將來關中會出現豪傑群起響應的局面（這並不是空想，是可能的）。
晉升平元年（357年），前秦內亂時，秦將張平以降晉為名，企圖割據，據有今山西境內的好幾個郡，有三百多個壁壘，各族人等十多萬戶，可為例證。現在兩個願望都落了空，而直逼長安，難道會一攻必克？如攻而不克的話，要想撤走也就難了。兵力不足應是桓溫最大的難處。
我們看東晉這段歷史，最可惋惜的是統治者內部不團結。殷浩以七萬人北伐而潰於山桑，桓溫以四萬人伐秦而對長安可望不可即，如殷、桓合作，十萬大軍是否就能北定中原呢？歷史上的許多憾事，根源多是內部不團結，這是值得世世代代記取的。
當時冉魏的舊將周成佔了洛陽，姚襄北歸佔了許昌，又北上與周成爭洛陽，情況非常混亂。永和十二年（356年），桓溫向朝廷提出一個表面上光明正大的請求：“移都洛陽，修復園陵。”朝廷便命他去討伐姚襄。這個任務，他輕鬆地完成了。這年八月，他從江陵北上到洛陽城南的伊水，一戰擊敗姚襄。姚襄西走後，周成又投降，桓溫便進了洛陽，謁西晉諸帝陵，對有毀壞的即令人修復，還留兵戍守，然後班師還江陵。
這是桓溫為晉朝立的大功勞。在以後幾年間，桓溫與朝廷也相安無事。然而，朝廷在與前燕發生衝突中的表現，卻又挑起了桓溫輕視朝廷的心理。
後趙亡後，鮮卑段部的後人段龕據廣固（今山東青州西北）稱齊王。晉永和十一年（355年）前燕慕容恪進攻廣固。段龕向晉求救。晉徐州刺史荀羨救燕，他雖不敢進軍廣固，然晉燕之間在今山東、河南與蘇皖北部的衝突自此連綿不斷。
永和十二年（356年），廣固在困守十個月後投降。以後晉、燕衝突，晉一直處於劣勢。昇平三年（359年），晉使豫州刺史謝萬、徐兗二州刺史郗曇攻燕。謝萬是後來成為東晉名相謝安的兄弟，也是個大有名氣的名士。王羲之得知了這道任命，就寫信勸他“與士卒之下者同甘苦”。
謝安也對他說：“汝為元帥宜數喚諸將宴會，以說眾心。”謝萬做不到與士卒同甘苦，便聽兄長的話，召集眾將會議，他找不出話來，便把手中的鐵如意指著大家說：“諸君皆是勁卒。”那時候階級區別森嚴，把將校叫作兵卒是有侮辱性的，眾將聽了，對他十分怨恨。謝安知道這位老弟不可救藥，怕他送掉性命，就特地趕到他統率的軍中，與各級軍官聯絡感情，連最下級的軍官也不例外。
後來謝萬兵敗逃回時，部下看了謝安的面子，才沒有殺害他。朝廷用這等人做元帥，實在是天大的笑話。
這時若不是燕主慕容皝病重到下年正月病死，加以嗣君慕容儁年幼，內部政爭劇烈，燕軍勢必大舉攻晉。昇平五年（361年），燕將呂護叛變，想引晉兵襲擊鄴（燕於357年遷都鄴）。燕慕容恪引兵攻野王（今河南沁陽，在黃河以北）。他不願意多犧牲士卒，就圍而不攻。桓溫乘他們相持的時候，使兄弟桓豁領兵收復了許昌。
燕軍把野王包圍了好幾個月，呂護支援不下去，便突圍逃走，野王投降。不久，呂護仍還燕國，依舊做了燕國將官。晉哀帝隆和元年（362年，穆帝在上年去世，年僅十九歲。哀帝司馬丕是成帝的兒子，原封琅邪王），燕讓呂護將功贖罪，領兵攻晉洛陽，守將陳祐只有一千多兵，哪裡夠用，連忙告急。
五月，桓溫一面派三千兵去援助，一面乘機嚇一下朝廷大僚。他上疏重提前議，請求遷都洛陽，而且加上一條：從永嘉之亂以來南遷人士一律北移，以充實河南。
這道奏疏使滿朝官員大起恐慌，他們害怕桓溫，又不敢公然提出異議。他們為什麼恐慌？原來南遷以後，那些丟了北方田莊的人在江南廣置田園，佔有山澤。王、謝等大族為避免與孫吳以來的江東大族摩擦，已遠渡浙江，在浙東立業。如果一律北遷，他們豈不要再受一次與南遷同等的損失，怎麼能夠不怕。
再說，洛陽地處前線，正在戰時狀態中如果軍事失利，又得倉皇逃難。這些生活奢華計程車大夫想起來也怕，怎麼敢去！散騎常侍領著作郎孫綽打破了沉悶，上疏說明不可北遷的理由。他講得相當坦率，說：“自喪亂以來六十餘年，蒼生殄滅，百不遺一，河洛邱墟，函夏蕭條，井湮木刊，阡陌夷滅，生理茫茫，永無依歸，播流江表，已經數世，存者長子老孫，亡者邱隴成行，雖北風之思，感其素心，目前之哀，實為交切。若遷都旋軫之日，中興五陵，即復緬成遐域。泰山之安，既難以理保；蒸蒸之思，豈不纏於聖心哉！溫今此舉，誠欲大覽始終，為國遠圖，向無山陵之急，亦未者決大謀，獨任天下之至難也。今發憤忘食，忠慨亮到，凡在有心，孰不致感！而百姓震駭，同懷危懼者，豈不以反舊之樂賒，而趣死之憂促哉！何者？植根於江外數十年矣。一朝拔之，頓驅於空荒之地，提挈萬里，逾險浮深，離墳墓，棄生業，富者無三年之糧，貧者無一飧之飯，田宅不可復售，舟車無從而得，舍安樂之國，適習亂之鄉；出必安之地，就累卵之危，將頓僕道途，飄溺江川，僅有達者。夫國以人為本，疾寇所以為人，眾喪而寇除，亦安所取哉？此，仁者所宜哀矜，國家所宜深慮也。”他建議先派有威望的將帥鎮守洛陽（這句話是將桓溫一軍，有威望的除了他有誰），收復河南，開通航運，等中原小康，再議遷都。
朝廷想派人去同桓溫商量，勸他收回這個主張。揚州刺史王述卻說：“溫欲以虛聲威朝廷，非事實也。但從之，自無所至。”於是下了一封詔書，說知道他要親率三軍收復中原，一切都“委之高算”。事情果然就這樣搪塞過去了。呂護攻打了幾個月，後中箭受傷而死。燕軍撤走，洛陽暫時脫離了危險。
哀帝興寧元年（363年），朝廷加桓溫侍中、大司馬、都督中外諸軍、錄尚書事假黃鉞。這一系列官名意味他是最大的實力派。興寧三年（365年），他移鎮姑孰（今安徽當塗），使兄弟桓豁領荊州刺史，兄弟江州刺史桓衝監江州及荊、豫八郡諸軍事。上下游的軍政大權，除京口（今江蘇鎮江）外，都進入了桓家的掌握之中。
桓溫既然認為晉朝沒有別人能勝過自己，便一步步地走著取晉朝而代之的路子。但是他總覺得還必須北上中原，打一個大勝仗，然後回來再受九錫，才能真正名實兼收。於是，就有了廢帝海西公太和四年（370年）的北伐之舉（哀帝於興寧三年因服藥求長生，中毒死，年二十五歲。弟琅邪王奕立）。
太和四年（370年）的前幾年間，中原軍事形勢對晉很是不利。許昌得失幾次，終為前燕所有。興寧二年（364年），汝南、陳郡（治今河南淮陽）失守。洛陽孤立，守將陳佑以救許昌為名，逃離洛陽，留沈勁帶五百人守城。這個差使誰也不願當，沈勁卻非常高興地接了下來。
他是王敦死黨沈充的兒子，以父親落個叛逆的惡名為憾事，決心要找個以身殉國的機會挽回家族的榮譽。此刻機會來了，他自然高興。興寧三年（365年），燕慕容恪、慕容垂領兵到洛陽。這兩人都是名將，打一座只有五百兵守的城，簡直不費吹灰之力。慕容恪攻城，通常不願硬攻，這番認定洛陽城高而兵弱，一鼓可下，不必浪費時間。
事實果然如此。沈勁被俘後，慕容恪不想殺他，但部將說看此人的神氣是決不肯為別人所用的，他才把他殺了，事後他還覺得這是件憾事。
太和元年（367年），燕軍又攻拔魯、高平等郡。宛城（今河南南陽）守將獻城降燕。前秦軍也攻掠南鄉郡（治今湖北均縣），把漢水以北的居民擄去了一萬多戶。東晉方面除桓豁於太和二年（368年）收復宛城外，沒有其他取勝的記錄。
桓溫最後一次北伐就是在這樣的形勢下發動的。他自領徐、兗二州刺史，與江州刺史桓衝、豫州刺史袁真等攻燕。徐兗二州刺史原是郗憎（郗鑑之子、郗曇之兄），治所在京口。
桓溫知道京口的兵一向精銳（郗鑑也鎮守過京口，339年他病重時上疏，說“臣所統錯雜，率多北人……或是新附”。這些北方流人及其子孫正是京口的兵源），常說“京口酒可飲，兵可用”。郗愔的兒子郗超是桓溫的參軍，他把父親給桓溫表示願共同北伐的信，抽換信箋，改為說自己年老，願意讓桓溫領徐、兗。桓溫有了這根據，便請朝廷調動郗愔官職，把京口的軍隊轉到自己的部下。
桓溫上次攻前秦，漢水上游航運艱難是個難題。這次在東面，運輸必須利用汴水。晉時的汴水指從今河南滎陽向東經開封折而東南到徐州入泗水的水道。水流所經的地方，數十年來，戰亂不息，沒有人疏浚，因此水道淤淺難以航行。郗超在出軍之初，就向桓溫提醒這個困難，但桓溫未予重視。六月，到了金鄉（今山東嘉祥南），因天氣乾旱，水道斷絕桓溫即命毛虎生率軍挖出三百里水道，北起鉅野澤（在今山東鉅野北的大湖，今為陸地），南到方與縣（今山東魚臺西舊城）菏水。
在大熱加以乾旱的日子裡，挖這樣長的水道，儘管有部分現成的水道可以利用，也總是非常艱鉅的工程。將軍和土兵總不會把自己的體力都消耗到土方工程裡去吧，所以吃此苦頭的無疑是當地的老百姓。
這史籍上沒有寫下，但是有些歷史的真相是該從沒有字的地方看出來的！這條水道後來叫做桓公瀆。桓溫有了這條水道，即讓大軍乘船，在鉅野澤北的清口入清水（清口，即汶水入濟口以下的濟水），再由清水入黃河。船隊浩浩蕩蕩，連綿好幾百裡，氣勢威武極了。
郗超又看出了問題。他說：“清水入河，難以通運。若寇不戰，運道又絕，因敵為資，復無所得，此危道也。不若盡舉見眾直趨鄴城，彼畏公威名，必望風逃潰，北歸遼、碣。若能出戰，則事可立決。若欲城鄴而守之，則當此盛夏，難為功力。百姓布野，盡為官有，易水以南必交臂請命矣。但恐明公以此計輕銳，勝負難必，欲務持重，則莫若頓兵河、濟，控引漕運，俟資儲充備，至來夏乃進兵；雖如賒遲，然期於成功而已。舍此二策而連軍北上，進不速決，退必愆乏。賊因此勢以日月相引，漸及秋冬，水更澀滯。且北土早寒，三軍裘褐者少，恐於時所憂，非獨無食而已。”
郗超說得透徹極了，可是桓溫固執地都不採納。晉軍打得很精彩湖陸（今山東魚臺東南）、黃墟（約在今河南蘭考東南）、林渚（約在今河南新鄭北）等戰，晉軍都獲全勝。燕高平守將投降。七月，桓溫進到枋頭（今河南浚縣西南淇門渡）。慕容時想棄鄴城北逃。
晉軍的優勢不復存在了。慕容垂指揮眾將迎敵，晉軍連遭挫折。桓溫使袁真開石門，開啟水運道路。袁真攻下了譙郡（今河南商丘東北）、梁國（今商丘南），但是沒有開成石門（地點不詳，應在上述兩地附近）。燕慕容德等軍進屯石門，截斷了運糧路線。
九月，桓溫被迫燒掉船隻，拋棄輜重，從陸路撤走。慕容垂知道他撤走之初戒備必嚴，只緩緩地跟著推進，過了幾天，估計晉軍已經力盡氣竭，才加緊追擊，終在襄邑（今河南睢縣）大破晉軍，斬首三萬級。晉軍退到譙郡，再遭荀池阻擊，又損失了上萬兵力。
恆溫北伐徹底失敗了。他把過失推到袁真身上，怪他不能完成任務，以致糧運不通。袁真不服，據壽春降燕。從太和五年到六年（370-371年），桓溫費了不少氣力，才收復壽春，殺死袁真的兒子袁瑾（袁真死）。
桓溫的皇帝夢還想做下去。太和六年（371年）十一月，他把皇帝廢為東海王，立會稽王昱做皇帝（簡文帝），改元鹹安。鹹安二年（372年）七月，簡文帝駕崩，大臣王彪之等立太子做皇帝，是為孝武帝。
桓溫原來期待簡文帝會禪位給他，至此大為失望。他幾次暗示朝廷賜他九錫，吏部尚書謝安、侍中王坦之知道他有病，故意拖延。他們沒有失望，孝武帝寧康元午（373年）七月，桓溫死去，年六十二歲。兄弟桓衝代他鎮姑孰，桓衝不是野心家。東晉的政治危機消失了。
