1204年，蒙古帝國的開創者成吉思汗組建了一支由一百五十人組成的近衛軍，取名“怯薛”。怯薜是由蒙古社會中脫離了自身氏族而服屬於一個人的“那可兒”（伴當）發展而來的，他們成為只服從於主君個人命令的禁衛軍，主君則予以他們生活上的資助和保護。
在怯薛軍出現之前，成吉思汗在成為乞牙惕諸氏聯盟共主之時，曾組織過一個龐大而分工明確的個人禁衛軍，當他將大部分蒙古草原都攬入自己手中之時，正式的怯薛軍出現了。
1206年，蒙古汗國建立之後，成吉思汗下令從各萬戶、千戶、百戶的子弟中選拔出一萬人，組成更強大的怯薛軍。這些人必須是蒙古勇士之中的精英分子，要抱有誓死效忠成吉思汗的決心，作戰時不畏生死，大汗的馬鞭指向哪裡，他們就追向哪裡。
這一萬怯薛分成三個不同兵種：
一曰火兒赤，全部由神射手組成，每個勇士必須要有百步穿楊的能力，要用手中的弓箭為大汗射殺一切侵犯大汗威嚴的人，這支隊伍人數為1000人。二曰客卜帖兀勒：是專門負責在夜間活動的隊伍，他們的職責是讓大汗可以在幕舍中安穩的睡覺，這支隊伍人數為1000人。三曰禿魯花：平時主要執行輪番護衛任務，當大汗親征時，他們必須充任御前先鋒。
這支隊伍，又被稱為“大中軍”，最蒙古大軍中最精銳的部隊，成吉思汗建立怯薛軍除了可以作為自己的私人隊伍使用之外，還有另外一重目的。那就是將這些貴族子弟當成人質來制約臣下。自己的兒子在大汗手中，背叛大汗等同於親手殺死自己的兒子。
怯薛軍的職責明確，制度嚴格。成吉思汗時代怯薛分為四班，輪流執勤。分別由博爾忽、博爾術、木華黎、赤老溫擔任護衛之長。此外，每一個宿衛、教班或箭筒士又由專人統領，統領由親信“那可兒”擔任。
怯薛軍享有特權，其地位在千戶長之上，若千戶長與怯薛軍發生爭鬥，當首先治罪千戶長；怯薛軍還可直接參與斷案和聽審，向外傳達大汗旨意；怯薛軍還可面出差發雜役等。總之成吉思汗賦予了這隻私人部隊極大的權利。
在成吉思汗的戰爭生涯中，怯薛軍在玉龍傑赤、野狐嶺、合蘭真沙陀等戰役中起到至關重要的作用。但後期，基本不再參與戰鬥，而只是負責保護大汗的安全。
成吉思汗曾告誡他的子孫要尊重怯薛，籠絡他們的感情，這樣的一直怯薛軍才能成為為黃金家族以死效力的戰鬥堡壘，因此怯薛的擴建，對鞏固蒙古汗權有重要的作用。
但就在成吉思汗死後的幾十年中，怯薛軍性質發生了變化，不但喪失了原先的戰鬥能力，而且在元朝晚期跟土耳其新軍一樣給朝政造成大混亂，成為元朝日趨腐朽的一個主要原因。
