祖逖在五胡亂華後選擇北伐，威懾石勒不難南下，收復了北方黃河以南大片土地。但是因為司馬睿忌憚祖逖的勢力，並且為了對抗琅琊王氏門閥，有意栽培自己親信，讓戴淵取代祖逖鎮守合肥。祖逖面對東晉內部司馬氏與門閥爭鬥，自知無法再去北伐，最後鬱鬱而終。
劉琨在永嘉之亂，西晉滅亡後，依然留守北方，在晉陽堅守對抗匈奴、羯族勢力長達九年。後投靠幽州刺史鮮卑族段部段匹磾，鮮卑內部叛亂殺害。祖逖和劉琨的結局，都是壯志未酬，一個選擇北伐，一個選擇留鎮北方，都是了不起的英雄。
西晉滅亡後，許多西晉舊臣和名士，都選擇依仗留在北方的勢力，去對抗入侵中原的胡族勢力。劉琨只是其中有著較大影響的人之一，郗鑑、蘇峻、邵續、李矩等人，都在永嘉之亂後留鎮北方，只是途徑不一樣。如劉琨、邵續、李矩等人，都依仗城池，或者藉助鮮卑族勢力，去對抗匈奴、羯族；而郗鑑、蘇峻等人，召集自己當地鄉親，避禍的過程中成為流民帥，也是對抗胡族的重要勢力。
劉琨
像郗鑑當時統領一部分流民勢力，在兗州對抗南下的石勒等勢力，對於南方的穩定有著很大作用。之後郗鑑、蘇峻等流民帥南下，對於東晉前期平定王敦之亂有著重要作用。
劉琨作為當時留鎮北方的西晉舊臣，曾經派溫嶠南下勸進司馬睿稱帝，也藉助鮮卑族勢力，有效地牽制住了鮮卑、羯族等對南方窺伺的胡族勢力，的確對於南方穩定有著不少的作用。
而劉琨成為西晉最後的軍事支柱的說法，應當是在司馬越、王衍率領西晉最後軍事主力，被匈奴、羯族勢力消滅後，劉琨作為北方能夠有效抗衡胡族的幾個主要勢力之一，能夠在北方召集對抗胡族的力量，有著一定的名聲。
但劉琨自身所具備的力量，相對於他所主要依附的鮮卑各部來說，會顯得有些貧弱。當時劉琨留鎮北方，與拓跋部、段部鮮卑結拜，就是利用鮮卑勢力去對抗其他胡族，並不能彰顯劉琨本身的軍事才能和其軍事力量的強大。
