1390年，朱元璋將李善長連同妻女弟侄七十餘人一同賜死。行刑前，李善長掏出一份免死鐵券，本欲保命。誰知，朱元璋冷笑道：“你仔細看看上面寫的是啥！”
朱元璋稱帝后，曾高度評價李善長，將他和漢初蕭何相比，說道： “朕起自草莽間，提三尺劍，率眾數千，在群雄的夾縫中奮鬥，此時李善長來謁軍門，傾心協謀，一齊渡過大江，定居南京。一二年間，練兵數十萬，東征西伐，善長留守國中，轉運糧儲，供給器械，從未缺乏。又治理後方，和睦軍民，使上下相安。這是上天將此人授朕。他的功勞，朕獨知之， 其他人未必盡知。當年蕭何有饋晌之功，千載之下，人人傳頌，與善長相比，蕭何未必過也。 ”
正如朱元璋所說，在幫朱元璋打天下時，李善長也的確如蕭何一樣，幫了朱元璋的大忙，發揮了無可替代的作用，而且朱朱元璋忠心耿耿。
朱元璋做了郭子興的女婿後，見郭子興無大志，就率領“淮西二十四將”攻下滁州，自立門戶。就在朱元璋平定滁州時，比朱元璋大14歲的李善長，親自前往軍中迎接拜見朱元璋。
這對朱元璋來說，是一大喜事。李善長的歸附，代表了朱元璋受到讀書人的喜愛，李善長雖然只是一人歸附，但他代表的是讀書人。自古得民心者得天下，李善長的歸附，代表朱元璋得了民心。
其次，朱元璋攻佔滁州時，身旁率領的大都是一幫老粗，不識字的武將，沒有文官，所以軍中文武嚴重失調。攻城掠地靠武將，但治天下、稅賦、籌措糧草，還是要靠文官。所以說，李善長的到來，對朱元璋來說就是“雪中送炭”。
而且李善長從小熟讀經史，富有有智慧和謀略，往往還給朱元璋出謀劃策，在朱元璋躊躇迷茫之時，勸說他效仿劉邦，用人才，明軍紀，奪取天下。可以說，在劉伯溫沒有到來之前，李善長既是朱元璋的丞相，又是他的軍師，身兼多職，而且任勞任怨，堪為朱元璋軍中的頂樑柱。
所以，朱元璋對李善長很是器重，而李善長在朱元璋心中的地位也無人可以撼動。後來，朱元璋雖然在劉伯溫的輔佐下，打敗了陳友諒、張士誠後稱帝，但朱元璋在封功時卻特意說道：“李善長雖無汗馬功勞，但跟隨我多年，供給軍糧，功勞很大，應當晉封大國。”
結果，朱元璋授李善長為開國輔運推誠守正文臣、特進光祿大夫、左柱國、太師、中書左丞相，封為韓國公，年祿四千石，子孫世襲。並授予鐵券，免李善長二死，其子免一死。當時被封公者，有徐達、常遇春之子常茂、李文忠、馮勝、鄧愈及李善長六人，而李善長位居首位。
但神機妙算，幫朱元璋稱帝的劉伯溫卻只被封了個三線功臣誠意伯，食祿僅僅只有二百四十石，還不到李善長的十分之一。由此可見，朱元璋對李善長有多麼偏愛。
明朝開國之初，李善長的權勢達到了頂點，就連徐達、湯和、劉伯溫都在他之下。朱元璋把李善長稱為“吾之蕭何”，但李善長有蕭何之才，卻沒有蕭何的保身之智。李善長被推為功臣首位，他卻不知功高震主，反倒是恃寵而“驕”。
朝中大臣，但凡有誰和他意見不合，或者冒犯了他，立馬會引來他的口誅筆伐，黨羽的輪番彈劾，直到罷官奪職為止。就連功臣劉伯溫，有次因立法意見不一，都遭到他的當眾責罵，結果御史中丞劉伯溫因心中不安，只好辭職歸鄉，暫避鋒芒。
在這樣的情況下，朝中大臣對李善長無不側目，敢怒不敢言，李善長的權勢越來越大，大到讓朱元璋害怕。後來，李善長因病請假，朱元璋就順水推舟，將李善長給退休了。丞相就換成了楊憲、汪廣洋、胡惟庸三人輪番坐鎮。
再後來，楊憲、汪廣洋、胡惟庸三人相繼倒臺，尤其胡惟庸被以謀反罪抄家滅族。胡惟庸案發後，而有人告發李善長的弟弟李存義父子實為胡惟庸的黨羽，朱元璋念著李善長的情義，下詔免死，將他們父子安置在崇明。
這對於李善長來說，是天大的恩情，但李善長並沒有表示感謝；不僅如此，封功時，朱元璋為了表示自己對李善長的恩寵，還把女兒臨安公主嫁給了李善長的兒子李祺，但後來朱元璋病重在床，躺了一二天，李祺和李善長都沒有去探望過，李善長的種種出格的做法，引來朱元璋的忌恨，昔日這對甜蜜四濺的君臣，心中生下巨大的嫌隙。
將李善長推向死亡的最後一把，是洪武二十三年（1390年）李善長為了自己蓋府邸，竟然私自找湯和借用300士兵。湯和是個聰明人，他既不敢拒絕李善長，卻又不敢瞞著朱元璋，所以等李善長走後，湯和連忙稟報朱元璋。
朱元璋頓時惱火，而就在此時，李善長竟然不知死活地，請求朱元璋釋放被胡惟庸案牽連的親戚丁斌等多人。朱元璋忍無可忍，心想大明朝到底是我朱元璋是皇帝，還是你李善長是皇帝，再不懲治，你李善長都敢騎到皇帝頭上去了。
朱元璋不僅不放過丁斌，還下令錦衣衛將丁斌嚴刑審訊。這一審了不得，丁斌以前在胡惟庸家做事，供出了李存義等人過去與胡惟庸一起策劃謀反；朱元璋又逮捕了李存義父子，李存義父子又供出自己和胡惟庸等人，都曾去勸說李善長一起謀反，並答應他事後封他為王。
李善長明知胡惟庸計劃謀反，卻知情不報，白白辜負了朱元璋對他的一片厚愛。朝臣們見李善長失寵，紛紛檢舉彈劾李善長，就連李善長的僕人都站出來揭發他，關鍵是欽天監的官員，來了一招狠的，對朱元璋說：“天象發生星變，預示會有災禍發生，當移大臣！”
朱元璋雷霆大怒，將77歲的李善長連同其妻女弟侄等全家七十餘人一併處死；到了最後一刻，李善長仍然不懂為人處世的道理，竟然拿出了朱元璋賜給他的免死鐵券，要求朱元璋放過他和兒子。
朱元璋冷冷一笑，道：“你仔細看看上面寫的是啥！”李善長這才完完整地將免死鐵券上的字看了一遍，發現最後寫著：“除謀反大逆”五個字。李善長長嘆一聲，和全家七十多口一同被處死。
伴君如伴虎，李善長雖有蕭何之才，卻不沒有蕭何保身的智慧。蕭何在劉邦稱帝后，為了保身，曾屢次設法自汙，才讓劉邦放下戒心，保全家族。
