六十二歲的晉文公重耳在成為晉國國君之前，曾經在外流亡長達十九年之久，介子推就是在這漫長的逃亡生涯中，一直緊隨重耳左右並輔佐他的忠臣之一。晉文公逃亡初期境遇慘不忍睹。先是被其父晉獻公派人追殺，隨後又面臨親兄弟晉惠公派人暗殺的危險。在艱苦的逃亡路上，重耳常常衣不蔽體，食不果腹。在衛國境內，重耳餓的實在受不了，便向正在田間吃飯的農夫討飯吃，可農夫們不但沒有施捨給重耳食物，反而遞上土塊讓他吃。最後，重耳飢餓難忍，幾乎喪命。是介子推割下自己大腿上的肉熬成湯給重耳喝，才保住了晉文公的生命。
晉文公繼承王位之後，便把大臣們分為三個等級，第一等級是在自己逃亡期間，一直追隨他的那些忠臣良將；第二等級是在他逃亡期間曾給予自己幫助的人；第三等級是幫他復國的有功之人。另外，晉文公對那些歸降的前朝大臣也都做了妥善安排。晉文公還頒佈命令，赦免了許多曾經與他為敵的人員。晉國局面逐漸走上正軌。
當時，周王室出現內亂，晉文公為了在中原諸侯面前樹立晉國的威信，還沒來得及封賞完所有的功臣就率兵馳援周天子去了。
被遺漏的人員有壺叔和介子推這些隨君流亡的重臣。壺叔不服，主動去要屬於自己的封賞，而介子推卻不願這樣做。他說：“你們個個都認為自己功勞很大，其實文公能夠登上君主之位根本就是天意。主動請賞的行為，跟小偷竊物之舉毫無區別。”他的一席話，表現出了對壺叔等人追逐榮華富貴行為的鄙夷。此後介子推便稱病在家，索性不與那些追求功名利祿之輩來往共事，天天在家照顧年邁的老母親。
時間一長，晉文公居然忘記了這個曾經在危機時刻救過自己生命的大臣。介子推的鄰居也一直主張介子推前去請賞，介子推聞聽之後只是笑而不語。最後乾脆背起母親躲到了陽縣綿山山谷裡去居住。
一日，守城士兵將貼在城門之上的一封信呈送到晉文公的手上，信中寫到：“龍失其所，周遊天下，眾蛇從之。龍飲乏食，一蛇割股。龍返於淵，安其壤土。數蛇如穴，一蛇於野。”晉文公看完信後十分自責，連忙派人去介子推。原來這封信是介子推鄰居所書，他一直為介子推感到不公，所以才想出這個辦法來提醒晉文公。晉文公聞訊之後，便親自去綿山尋找介子推。可找了半天也不見介子推的蹤影。
找不到介子推，晉文公很是不悅，於是生氣的說：“介子推一直不出來見我，一定是非常怨恨我，我親自找了半天，足見誠心了，可他還是不肯見我，怎麼辦呢？”於是手下有人提議放火燒山，這樣的話，孝順的介子推一定會帶著母親逃出來。晉文公覺得此計可行，於是命人放火燒山。大火燒了三天三夜，仍不見他們母子二人出來。
晉文公又命人開始搜山，卻發現他們母子二人已經燒死在枯柳樹下。文公見後悲痛不已，痛哭之後命人把介子推母子埋在了綿山之中。從此綿山更名為介山，陽縣也被更名為介休縣。文公還將綿山上的田地封給介子推，以此來表示對他的懷念。因介子推去世的日子是清明節的前一天，晉文公便下令每年的這一天全國禁止用火，所以這一天人們只能吃冷飯。這一天也被稱為寒食節。後來，每到寒食節，家家戶戶就以門上插柳枝，焚燒冥幣，戶外祭祀，吃冷飯等方式表示對介子推的懷念。唐朝過後，寒食節和清明節漸漸被人們合而為一，人們常常會在這一天祭祀過世的親人。
後人曾讚頌介子推為中國歷史上“忠孝清烈第一人。”
