Nama Maahad Muhammadi, sejak ditubuhkan sehingga sekarang memang tidak dapat dipisahkan daripada sejarah pendidikan dan penyebaran keilmuan di Kelantan khususnya dan nusantara amnya. Ia merupakan sebuah institusi pendidikan ugama yang berpengantarkan Bahasa Arab yang terulung dan tertua di negeri Kelantan. Sehingga kini, kegemilangannya terserlah dengan pengeluaran ribuan ulama', cendekiawan, negarawan, usahawan, teknorat, penulis dan ahli-ahli politik yang matang dan berjaya. Ditubuhkan secara rasmi pada hari Khamis, tanggal 1 April 1937M bersamaan 20 Muharram 1356H dengan ampun perkenan dan titah baginda ke Bawah Duli Yang Maha Mulia As-Sultan Ismail Ibni Al-Marhum As-Sultan Muhammad IV, As-Sultan dan Yang Dipertuan bagi negeri Kelantan pada waktu itu. Sejak kelahirannya sehingga sekarang Maahad Muhammadi telah dikenali dengan pelbagai nama sehingga akhirnya ia kekal seperti dikenali sekarang.
Menyingkap kembali sejarah penubuhan Maahad Muhammadi, idea penubuhannya telah dicetuskan oleh Tuan Haji Nik Yahya bin Nik Daud, seorang anggota majlis Ugama Islam Kelantan, sejak tahun 1935. Setelah menyusuri pelbagai peringkat, hasilnya, perkenan Baginda Sultan Muhammad IV diperoleh. Tanggal 1 April 1937, merupakan tarikh keramat bagi Maahad Muhammadi yang mula melangkah memulakan proses pengajiannya dengan penempatan awal di bangunan Pejabat Majlis Ugama Islam Kelantan di Jalan Sultan, Kota Bharu iaitu tapak di mana Pustaka Islam didirikan sekarang dengan nama Madrasah Muhammadiah.
Madrasah Muhammadiah terus yakin mengorak langkah setapak lagi ke hadapan. Bagi menampung bilangan pelajar yang kian bertambah dari semasa ke semasa, maka pada 1 Julai 1942, berlaku pemindahan kali pertama ke Bangunan Jame' Merbau Al-Ismaili dan dimasyhurkan dengan nama "Madrasah Arabiah Jame' Merbau Al-Ismaili". Selari dengan peredaran masa, bilangan pelajar juga turut bertambah.
Oleh sebab bangunan di Jame' Merbau Al-Ismaili tidak lagi mencukupi untuk menampung pelajar-pelajar dan bilangan kelas bertambah dari setahun ke setahun, maka pada tahun 1953, Majlis Agama Islam Kelantan mula merancang dan membina sebuah bangunan baru yang didirikan bersempadan dengan kawasan Jame' Merbau Al-Ismaili. Bangunan baru itu siap pada tahun 1955 dan mula menerima pelajar-pelajarnya pada 3 Januari 1956. Manakala bangunan lama Jame' Merbau Al-Ismaili itu dijadikan Maahad Muhammadi Bahagian Melayu Perempuan.
Tarikh 9 Mei 1964, adalah hari paling agung bagi Maahad Muhammadi. Tarikh ini merupakan hari yang paling bermakna dalam sorotan sejarah sekolah ini, di mana pada tarikh inilah, perasmian bangunan baru Maahad Muhammadi Jalan Merbau Kota Bharu telah disempurnakan perasmiannya oleh Ke Bawah Duli Yang Maha Mulia Al-Sultan Yahya Petra ibni Al-Marhum Al-Sultan Ibrahim, Sultan dan Yang Dipertuan bagi negeri Kelantan Darul Naim.
Perlu dimaklumi, sejak ditubuhkan dengan nama Madrasah Muhammadiah arabiah pada tahun 1937 dahulu, maahad Muhammadi adalah khusus untuk pelajar lelaki. Keadaan ini kekal sehinggalah ke tahun 1966 apabila kelas bagi pelajar-pelajar perempuan ini dibuka pada tahun itu di Maahad Muhammadi. Walaubagaimanapun, sebagai sekolah ugama yang tertua dan terbesar di negeri ini, Maahad Muhammadi mendapati dirinya sukar mengelak daripada serbuan oleh ramai pelajar terutama pelajar perempuan yang ingin menyambung pelajaran mereka di sini. Pada akhir 1970-an, jumlah pelajar lelaki dan perempuan hampir seimbang, pada awal 1980-an, jumlah pelajar perempuan didapati melebihi pelajar lelaki. Menyedari keadaan ini, dan ditambah pula dengan pelbagai masalah-masalah lain seperti kerumitan pentadbiran, masalah disiplin dan kegiatan ko-kurikulum yamg timbul akibat daripada percampuran pelajar lelaki dan perempuan, maka, Yayasan Islam Kelantan (YIK) sebagai Badan Berkuasa ke atas Maahad Muhammadi telah mengambil keputusan untuk mengasingkan Maahad Muhammadi kepada dua bahagian iaitu bahagian lelaki dan bahagian perempuan.
Maka, tanggal 1 Julai 1982, Maahad Muhammadi dipecahkan kepada dua bahagian, lelaki dan perempuan dengan ditadbir oleh dua orang pengetua secara berasingan. Pembahagian ini di lakukan oleh pihak berkuasa Yayasan Islam Kelantan sebagai memenuhi pelaksanaan dasar pemisahan antara pelajar lelaki dan perempuan di sekolah yang berasingan. Masa terus berlalu. Setelah bangunan di Pengkalan Chepa siap sepenuhnya, pihak pentadbir YIK melalui pekelilingnya memberi arahan supaya Maahad Muhammadi Bahagian Lelaki berpindah ke Jalan Pengkalan Chepa mulai 15 Oktober 1983 secara berperingkat-perigkat. Akhirnya, mulai awak Januari 1989, pelajar-pelajar Maahad Muhammadi Lilbanin ditempatkan di satu sekolah sahaja iaitu di Maahad Muhammadi Lelaki dan ekoran dari itu pada tahun yang sama, kekosongan tempat di Maahad Muhammadi Pasir Pekan telah dipenuhi dengan penempatan murid darjah peralihan tingkatan satu dan dua, lelaki dan perempuan dari kalangan pelajar yang tinggal berdekatan dan dengan itu, lahirlah pula sebuah sekolah yang baru dengan nama Maahad Muhammadi Pasir Pekan dengan pentadbiran yang berasingan.
Setelah menempuh beberapa perkembangan sejak kelahiran tahun 1937, dengan pelbagai peristiwa suka duka, dalam menjalani sejarahnya, Maahad Muhamadi telah menyambut Jubli Emasnya pada 22 dan 23 Julai 1987 dengan mengadakan Majlis Memperingati 50 tahun kelahirannya dalam majlis yang penuh gilang-gemilang pada petang Rabu, 22 Julai 1987 di Dewan Maahad Muhammadi Lelaki dan pada keesokan harinya diadakan Majlis Ucapan dan Penyampaian Hadiah oleh YAB Dato' Haji Mohammad bin Yaacob, Menteri Besar Kelantan. Kemuncak sambutan ini adalah penubuhan Persatuan Murid-murid Tua Maahad Muhammadi (PERMUTUM). Sejajar dengan peredaran masa, kini PERMUTUM mula menyepi dan mula diberi nafas baru dengan penubuhan Persatuan Alumni Maahad Muhammadi atau ringkasnya AMAL.
Pada tahun ini, kegemilangan Maahad Muhammadi sekali lagi diserlahkan dengan sambutan bagi merayakan ulang tahun ke-70 Maahad Muhammadi. Majlis ini telah dianjurkan oleh AMAL dan diadakan di Taman Perbendaharaan Tengku Anis pada 16 Jun 2007 bertemakan 'Menjulang Budi Menabur Bakti', majlis ini berjaya meghimpunkan bekas-bekas palajar Maahad Muhammadi yang telah berjaya memberi sumbangan kepada agama, nusa dan bangsa.