MI Muhammadiyah Gedongan berdiri pada tanggal 10 Februari 1968, yang pada waktu itu bernama Madrasah Ibtidaiyah Islamiyah. Pendirinya adalah Bapak Bashiron dan Bapak Chusaini. Selanjutnya Bapak Bashiron diamanahi sebagai kepala Madrasah. Awal berdiri Madrasah Ibtidaiyah Islamiyah adalah lembaga pendidikan non formal yang mengajarkan khusus ilmu diniyah yang jam belajarnya sore hari. Tempat yang digunakan adalah Balai Desa Gedongan. Murid yang mengikuti madrasah rata-rata 10 anak per kelas. Keadaan ini berjalan selama 5 tahun. Mulai tahun 1973, Madrasah Ibtidaiyah Islamiyah berubah menjadi sekolah formal yang menginduk pada departemen P & K. Animo masyarakat semakin besar. Jumlah murid yang mengikuti pendidikan sebanyak 174 murid. Untuk menampung jumlah murid yang semakin banyak maka pada tahun 1974 tempat belajar pindah ke rumah Bapak Tamsari (Pak Bayan). Sedangkan tenaga pendidik mendapat bantuan dari Departemen P & K dan Departemen Agama. Pada periode ini kepala sekolah diampu oleh Bapak Chusaini.
Pada tahun 1974, dibentuklah pengurus untuk membantu perkembangan sekolah. Pengurus diketuai oleh Bapak H. Suyatno. Dibawah kepengurusan Bapak H. Suyatno, diupayakan tempat sendiri. Pengurus berhasil mendapatkan tanah seluas 110 m2 di Dusun Tanon Lor (tempat sekarang), yang merupakan hasil wakaf dan pembelian. Gedung baru ditempati mulai tahun 1976. Pada tahun 1975 terbit peraturan pemerintah yang mewajibkan sekolah swasta mempunyai induk organisasi yaitu yayasan pendidikan. Berdasarkan musyawarah pengurus maka Madrasah Ibtidaiyah Islamiyah bernaung di bawah yayasan Muhammadiyah dan berganti nama menjadi MI Muhammadiyah Gedongan. Nama tersebut dipakai hingga sekarang. MI Muhammadiyah Gedongan sempat mengalami pasang surut. Tetapi dengan kesungguhan, kerja keras dan dukungan dari berbagai pikah MI Muhammadiyah Gedongan tetap eksis dan bahkan semakin berkembang. Terbukti pada Tahun Ajaran 2012/ 2013 peserta didik tercatat sebanyak 185 siswa, Tahun Ajaran 2022/2023 jumlah peserta didik 456. Hingga pada Tahun Ajaran 2023/2024 jumlah peserta didik 487. Hingga pada saat Tahun Ajaran 2024/2025 jumlah peserta didik 500.
