Mondros Ateşkes Anlaşması hükümlerine göre Osmanlı ordusunun büyük bir bölümü terhis edilmişti.
Osmanlı Devleti vatan topraklarını savunma gücünden yoksun bırakılmıştı. Diğer yandan İtilaf Devletlerine ait ordular Mondros Ateşkes Anlaşması’nın 7. maddesine dayanarak yurdun dört bir yanını işgal etmeye başladılar fakat Türk milletinin silahlı direnişi ile karşılaştılar.
Mustafa Kemal, İstanbul’dan Samsun’a geldiğinde Anadolu’da işgal edilmemiş bölgelerdeki askerî birliklerin terhislerinin durdurulmasını istedi.
Ancak Anadolu’da Kâzım Karabekir Paşa’nın komutasındaki 15. Kolordu ve Ankara’daki 20. Kolordudan başka işgalci güçlerle savaşacak düzenli askerî birlikler kalmamıştı. Mondros Ateşkes Anlaşması’ndan hemen sonra Anadolu’da başlayan düşman işgallerini durdurmak ve ortadan kaldırmak için gönüllülerden oluşan Kuvayımilliye birlikleri meydana getirildi.
Kurulan bu birlikler önce Yunan ilerleyişinin durdurulmasında ardından Anadolu’da Millî Mücadele’ye karşı isyan edenlerin etkisiz hâle getirilmesinde önemli görevler üstlendiler. Her bölgede kendi önderleri çevresinde toplanan bu Kuvayımilliye birlikleri zamanla düşman karşısında yetersiz kalmaya başladılar.
Kuvayımilliye birlikleri bir merkezden yönetilmiyor; askerî disiplinden yoksun, düzensiz bir biçimde hareket ediyorlardı. Ayrıca zaman zaman halktan zorla para, yiyecek, araç ve gereç toplama, yargı gücü kullanma gibi nedenlerden dolayı sık sık sorunlar yaşanıyordu.
Gereksinimlerini karşılamak için kendilerine yardımcı olmayan halka baskı ve şiddet uyguluyorlardı. Kuvayımilliye birliklerinin bu tür davranışları halkın tepkisine neden olmaya başladı. Mustafa Kemal Paşa, dağınık hâlde olan ve tek merkezden yönetilmeyen Kuvayımilliyecilerle işgalci güçlere karşı kesin bir zafer kazanılamayacağını biliyordu.
Sivas Kongresi’nde Kuvayımilliye birliklerini tek çatı altında toplamak için girişimler başlattı. Kuvayımilliye birliklerinin düzenli bir ordu kurularak emir-komuta zincirine bağlanması gerektiğini düşünüyordu. Bu amaçla Temsil Heyeti Başkanlığı yetkisini kullanarak Batı Cephesi Komutanlığına Ali Fuat Paşa’yı atadı. Batı Cephesi’nin güney bölgelerinin komutanlığına ise Refet Paşa’yı getirdi.
Bu görevlendirmelere rağmen Kuvayımilliye birlikleri, Sevr Antlaşması’nı zorla kabul ettirmek için harekete geçen İtilaf Devletlerinin desteklediği Yunan kuvvetlerine karşı başarısız oldular. Kuvayımilliye birliklerinin disiplinsiz hareketleri devam ettiği için düşmanın ilerleyişi durdurulamadı. BMM açıldıktan sonra, bütün millî kuvvetlerin bir yönetim altında toplanması büyük önem kazandı. Mustafa Kemal, düzenli ordunun kurulması için çalışmaları hızlandırdı.
Büyük Millet Meclisinde yaptığı bir konuşmada BMM’ye bağlı, tam donanımlı ve düzenli bir ordunun acilen kurulması gerektiğini anlattı. Bu konu Mecliste tartışılırken başlayan Yunan askerî birliklerinin saldırıları, Kuvayımilliye birlikleri tarafından önlenemedi.
Uşak üzerinden saldırıya geçen Yunanlılar, 8 Temmuz 1920 tarihinde Bursa’yı işgal ettiler. Batı Cephesi Komutanı Ali Fuat Paşa, Gediz ve çevresinde bulunan Yunan ordusu üzerine bir askerî harekât düzenledi. Birliklerdeki emir-komuta eksikliği ve Kuvayımilliye önderlerinin emirlere uymaması nedeniyle yapılan hücum başarısızlıkla sonuçlandı. Yunan ordusunun Batı Anadolu Bölgesi’nde işgal hareketlerine devam etmesi, düzenli ordunun önemini bir kez daha ortaya koydu.
Kendi bölgelerinde düşmana karşı başarılı savunma savaşları yapan Kuvayımilliye birliklerinin tek bir otoriteye bağlanması görüşü ağırlık kazandı. Bu yerel birliklerin Müdafaaimilliye Vekâleti (Millî Savunma Bakanlığı) emrine girmesi için yeni düzenlemelere gerek duyuldu. Bu birlikteliği oluşturmak için Büyük Millet Meclisinde yaşanan sert tartışmaların ardından düzenli bir ordunun kurulmasına karar verildi. 1920 yılında Doğu ve Batı Cephesi Komutanlıkları kuruldu. Batı Cephesi Komutanı Ali Fuat Cebesoy görevinden alınarak yerine Albay İsmet (İnönü) Bey getirildi.
Kuvayımilliye birlikleri ile beraber mücadele eden vatansever subay ve askerler de düzenli ordu birlikleri içerisinde yerlerini almaya başladılar. Ayrıca seferberlik ilan edilerek halkın yeni kurulan orduya katılması sağlandı. Böylece BMM’ye bağlı düzenli bir ordu kuruldu.
Bazı Kuvayımilliye birlikleri düzenli orduya katılmak istemediler. Çerkez Ethem ve Demirci Mehmet Efe gibi Kuvayımilliyeciler BMM’nin oluşturduğu düzenli orduya katılmayarak isyan ettiler. Düzenli ordu birliklerinin ilk işi kendilerine katılmak istemeyen Kuvayımilliyecilerin isyanlarını bastırmak oldu. Bu birliklerin karşısında başarısız olan eski Kuvayımilliyeciler yenilgiye uğradı. Böylece düzenli ordunun kuruluşu tamamlanmış oldu.