Қазақ тарихына тереңдей бойлап қарасақ, бүгінгі күндегідей тұрақты армия болмағаны анық. Қазақ хандығы кезінде тек қажет кезде әр кіші ру бір қостан әскер шығарып, үлкен ру жүздік, одан мыңдық болып жиналып отырған. Тәуке хан тұсына келгенде үш жүзге бөлініп жасақталуының өзі осы әскери мақсатта жасалған реформа болса керек. Одан бергі жылдарда Ресей империясының құрамында болғандықтан әскер ұстау қажеттілігі болмай, ұзақ уақытқа қазақ халқы әскери істерден алыстап қалды десек артық айтқандық емес. Осы себептен болса керек, 1916 жылы Патша үкіметі тылға қазақтан адам аламыз дегенде үлкен қарсылыққа ұшырап, соңы көтеріліске ұласқаны белгілі. Осы кезеңде Алашорда үкіметі құрылып, Алаш автономиясын жариялады. Алаш автономисы ұлттық автономиялы республика ретінде өзінің әскерін жасақтау мәселесі күн тәртібіне көтерілді. Алаш әскерін құру туралы идея 1917 жылғы бірінші жалпықазақ сьезінде ортаға қойылды, екінші жалпықазақ сьезінде бұл идея одан әрі толықтырылды. Алашорда әскері бастапқыда «халық милициясы», «халық әскері», «алаш әскері», «қазақ полкі» сияқты әртүрлі атаулармен аталды. Алаш әскері әуелде ақтармен бірлесе отырып большевиктерге қарсы соғысты. Кейін Совет үкіметі орнап, ақтар жеңіліс тапқан соң, Алашорда үкіметінің таратылуымен бірге Алаш әскері де таратылды.

Ал тәуелсіз Қазақстан Қарулы күштері сол советтік армия негізінде дүниеге келген болатын.

Мемлекеттік саясаттың әскери қауіпсіздікті қамтамасыз ету саласындағы алғашқы қадамдарының бірі – Қазақстан Республикасы Президентінің 1991 жылғы 25 қазанда шыққан «Қазақ Кеңестік Социалистік Республикасы Мемлекеттік қорғаныс комитетін құру туралы» Жарлығы болды. 1992 жылдың 7 мамырында тәуелсіз елдің заңдық құқықтарының негіздеріне және тәуелсіз мемлекеттер достығына қатысушы мемлекеттер арасындағы қол жеткен келісімдерге байланысты ҚР Президенті Н.Ә.Назарбаевтың Жарлығы шықты. Бұл Жарлық бойынша, Қазақстан аумағына орналасқан Қарулы Күштер  өздерінің мүліктерімен қоса, республиканың қарауына өтті. Жоғарғы Бас Қолбасшы ретінде Қарулы Күштерді басқаруды Президент өз мойнына алды. Елбасынан басқа қорғаныс ісімен тікелей шұғылданатын алғашқы Қорғаныс министрі болып генерал-полковник С.Нұрмағанбетов тағайындалды.

Аталған жылы Қазақстан Республикасының Президенті Нұрсұлтан Назарбаевтың Жарлығымен үш жүйелі штаб - жаяу әскерлер, әуе қорғанысы күштері мен әскери-теңіз күштерінің бас штабтары бекітілді. Аэроұтқыр күштерге Жоғарғы Бас қолбасшының резерві құзыры берілді. 2001 жылдан Қазақстан 4 әскери - Орталық, Оңтүстік, Батыс және Шығыс округке бөлінді.

2007 жылғы Әскери доктринада мемлекеттің әскери ұйымын дамытудың негізгі бағыттарының бірі өңірлік қолбасшылықтар әскерлерінің белгіленген жауаптылық аймақтарында әскери қауіпсіздік міндеттерін шешу мәселелеріндегі нақты дербестігін қамтамасыз ету және әскерлердің стратегиялық бағыттардағы жеткілікті топтастықтарын құру болып айқындалды.