前涼政權的奠基者是張軌，張寔張軌的兒子。
張軌，字土彥，安定烏氏人。家世以儒學顯。西晉末年任散騎常侍，徵西軍司。當時天下大亂，張軌暗中圖謀據有河西走廊地區，故請求到州任職。永寧初，西晉朝廷任他為護羌校尉，涼州刺史。張軌到涼州後，一方面用武力討平反叛勢力，同時又大興文教，招賢納士，其勢力越來越鞏固。為了更好地擴充套件勢力，鞏固政權，張軌始終奉晉朝正朔，不僅按時遣使朝貢，而且多次派出軍隊到關內勤王。這樣，儘管中原地區長期為胡族所佔領，隴西及河西走廊地區卻始終是晉的勢力範圍。但在當時東晉政權偏安一隅，與涼州萬里隔絕的情況下，涼州走向獨立是一種必然。
西晉建興二年（314年），在涼州經營了十三年的張軌病重將亡。他在遺令中說：“我無德於人，如今疾病彌留，這大概是命數已盡了。我死之後，文武將佐都應當盡心盡力，安撫百姓，上思報國，下以寧家。素棺薄葬，不要埋藏金玉。要好好輔佐安遜（張的字），聽候朝廷的處置。”這樣，張軌的兒子張寔接替了父親的職位。
料理完父親的喪事，張寔及時派人向晉愍帝做了彙報，晉朝很快給了答覆，讓張寔接替涼州刺史的位子，管理涼州。張寔和父親一樣。也是晉朝的一個忠臣。建興三年（315年），涼州軍士張冰得到一塊赫然刻著“皇帝行璽”四個字的玉璽，獻給了張寔。張寔的大臣們看後不約而同地向張寔祝賀，暗示張寔稱帝。張寔突然交了臉，氣憤地說：“父親之所以能在涼州平安無事，完全由於他對晉朝皇帝忠心耿耿。父親臨終時明確告訴我們要報效國家，我們怎能把他的話當作耳旁風！玉璽雖是好東西，但不是臣民應當收留的。”當天就派人把它送到長安。同年，漢國將領劉曜攻陷長安，訊息傳到姑臧（今甘肅武威）後，張寔立即派韓璞、張閬、賈騫、陳安等將領帶著萬人大軍前去勤王。
韓璞出發後，張寔又給晉相國司馬保寫了一封信，信中說：“王室有難，作為臣民有責任分擔憂愁。起先我曾派賈騫去配合你的行動，後來按你的意見準備撤軍，但是，沒過多久，就聽說敵軍圍困長安，胡崧觀望不前，便臨時決定讓賈騫繼續前進，和敵軍血戰。不幸長安失陷，道路堵塞，我們無法效忠於朝廷。每想到這些，我就悔恨至極，痛不欲生。現在重新派韓璞等將領去配合你的行動，以表我對朝廷的赤誠之心。我的將領也是你的將領，由你全權指揮。”儘管張疐對晉廷赤膽忠心，但是，由於氐、羌沿途攔截，韓璞等人無法繼續前進，只好中途折回。
張寔既有喜歡獨斷專行的一面，又有不同的一面，就是知錯能改。一次，張寔下令人們坦率地指出他的過失，並表示對批評他過失的人賞給多少不等的布帛羊米。命令剛下達，曹佐隗瑾就很不客氣地說：“自你執政以來，事無鉅細全由你一個人說了算。大臣們懼於你的威嚴，什麼事情只是點頭而已。即使你賞給他們千金，他們也不敢表態。恕我直言，你不要以為自己是天下最聰明的人，其實好多事情還不如大臣，所以，以後處理軍政大事時如果能傾聽一下大臣們的意見，那麼，有利於國家的言論不用賞賜，也會源源不斷地送到你的耳中。”張寔聽後沒有發火，表示以後虛心聽取大臣們的意見。
涼州由於是一塊遠離戰火的安全地帶，所以雲集了形形色色的人。京兆人劉弘也到了涼州。劉弘用左道騙人，客居天梯第五山，在山洞中燃燈懸鏡，欺惑百姓。一千多人都受到了他的矇騙。張寔的部下閻沙、趙印是劉弘的老鄉，輕易就被劉弘收買過去。劉弘對他二人說：“上天與我神璽，應當在涼州稱王。”閻沙、趙印相信了他的話，和十幾個人密謀刺殺張寔。晉大興三年（320年）六月，張寔的弟弟張茂得知後告訴了張寔，張寔先派人將劉弘抓獲殺死，又派牙門將史初去收捕閻沙等人。史初剛離開張寔，閻沙就懷揣利劍進了宮殿，一刀刺進了張寒的心臟。張寔在位六年，私諡曰昭公，晉文帝賜諡曰元。
