- KH. Muhlasin dari Padureso ( wafat tahun 2002 )
- K.Muhtadi dari Sukomarto ( wafat tahun 2010 )
- KH. Thoha Masyhuri dari Barang
- H. Mahudi Shaleh, BA dari Padureso ( wafat tahun 2004 )
- H. Ahmad Zaeni dari Karangtejo
- K. Mukhozin dari Padureso
- K. Said Al Khudri,BA dari Muncar
- H. Syaifudin dari Padureso
- K. Sahli Baehaqi dari Ngadisepi
- K. Mursyid dari Padureso (wafat tahun 2003)
- H. Slamet Syahudin dari Kertosari
- K. Hadi Masykur dari Gemawang
- KH. Muhammad Khoirudin dari Gemawang
- K. Ahmadi dari Jambon
Setelah beberapa tahun Majelis Ta’lim ini berjalan, bergilir ke desa-desa di wilayah kecamatan Jumo maka makin banyak pengikutnya. Dari sekian banyak jama’ah ada di antara mereka yang sudah berpendidikan tinggi dan pemikir pendidikan di antara dari mereka adalah Mahudi Shaleh,BA. Dari kalangan pemikir pendidikan yang dimotori Mahudi Shaleh,BA mengusulkan kepada jama’ah agar Majelis Ta’lim Kitab al Bukhari mendirikan lembaga pendidikan formal berbentuk madrasah setingkat SMP. Ide ini didasarkan pada pemikiran banyaknya anak-anak jama’ah Majelis Ta’lim Kitab al Bukhari yang tidak melanjutkan sekolah setelah lulus SD/MI karena beberapa faktor. Di antara faktor penyebabnya adalah karena tidak diterima di sekolah negeri dan faktor tidak mampu biaya sekolah. Madrasah yang ingin didirikan dimaksudkan sebagai sekolah alternatif bagi jama’ah yang anak-anaknya tidak diterima di sekolah negeri maupun jama’ah yang tidak mampu membiayai sekolah anak-anaknya.
Ide yang cemerlang ini ditangkap positif oleh para tokoh pendiri Majelis Ta’lim Kitab al Bukhari, agar majelis ta’lim ini dapat memberikan kontribusi lebih bagi masyarakat. Hasil rumusan pemikiran tokoh-tokoh tersebut kemudian disampaikan kepada KH.Hadi Sofwan Temanggung pengasuh Lembaga Pendidikan Mu’allimin Temanggung yang pada saat itu sebagai Ketua PW NU Jawa Tengah, juga sebagai tokoh pemikir pendidikan islam di Temanggung.
Tokoh pendiri Majelis Ta’lim Kitab al Bukhari yang diwakili KH.Mulasin dari golongan tua dan Mahudi Shaleh,BA dari golongan muda menyampaikan maksud pendiri Majelis Ta’lim Kitab Al Bukhari kepada KH. Hadi Sofwan bahwa mereka bermaksud mendirikan Madrasah Tsanawiyah di bawah naungan Lembaga Pendidikan Ma’arif NU. Usulan ini didukung oleh KH.Hadi Sofwan maka didirikanlah Madrasah Tsanawiyah dengan nama MTs Ma’arif Jumo.
Madrasah ini resmi berdiri pada tanggal 5 April 1985 dan mulai beroperasi sejak tanggal 17 Juli 1985 dengan Surat Ijin Operasional dari Kepala Kantor Wilayah Departemen Agama Jawa Tengan nomor Wk/5.c/34/pgm/Ts/1985 tertanggal 10 September 1985. Adapun tokoh-tokoh pendiri MTs Ma’arif Jumo adalah sebagai berikut :
- Tokoh-tokoh kalangan Majelis Ta’lim Kitab Al Bukahari
- KH. Muhlasin dari Padureso ( wafat tahun 2002 )
- K. Muhtadi dari Sukomarto ( wafat tahun 2010 )
- KH. Thoha Masyhuri dari Barang
- H. Mahudi Shaleh,BA dari Padureso ( Wafat tahun 2004 )
- H. Bin Khambali dari Padureso
- K. Mukhozin dari Padureso
- K. Said Al Khudri,BA dari Muncar
- H.Syaifudin dari Padureso
- H. Kostolani dari Karangtejo ( wafat tahun 1993 )
- K. Mursid dari Padureso ( wafat tahun 2003 )
- H. Slamet Syahudin dari Kertosari
- K. Hadi Masykur dari Gemawang
- KH. Muhammad Khoirudin dari Gemawang
- Dari kalangan luar Majelis Ta’lim Kitab Al Bukhari
- Saridjo (PPAI Jumo) dari Kalibanger (wafat tahun 2014)
- Chamim Hambali (Guru MTs N Parakan) dari Jumo (wafat tahun 2010)
Setelah madrasah ini berdiri dan beroperasi kemudian pengelolaannya diserahkan kepada pengurus Majelis Wakil Cabang Nahdlatul Ulama Jumo. Selanjutnya dikelola oleh Lembaga Pendidikan Ma’arif NU yang merupakan lembaga bagian dari Nahdlatul Ulama. Di bawah bendera Lembaga Pendidikan Ma’arif NU lambat laun madrasah ini dapat berkembang tahun pertama yakni tahun pelajaran 1985/1986 mendapatkan peserta didik 54 siswa namun sampai kelas 3 yang mengikuti ujian tinggal 37 siswa karena banyak siswa yang drop out. Tahun pertama madrasah ini belum memiliki gedung sendiri, untuk proses belajar mengajar menempati gedung yang dipinjam dari MI Al Huda Padureso terletak di depan Masjid Padureso Jumo. Baru mulai tahun ketiga madrasah ini dapat membangun gedung sendiri di atas tanah wakaf milik KH.Dahlan Munjamil.
Dari tahun ke tahun madrasah ini semakin berkembang pesat, karena hampir seluruh jama’ah Majelis Ta’lim Kitab Al Bukhari memasukkan putra putrinya ke MTs Ma’arif Jumo.
Pada awal berdirinya semua guru dan karyawan bersifat sukarela karena madrasah belum mampu memberikan honor bagi guru dan karyawan maka statusnya benar-benar wiyata bhakti tanpa honor bahkan kadang-kadang harus mengeluarkan uang sendiri untuk biaya operasional. Bayangkan hanya dengan SPP Rp 1.000,00 ( seribu rupiah ) dengan jumlah siswa yang tidak ada seratus harus membiayai operasional madrasah yang cukup besar. Namun demikian mereka tetap memiliki etos kerja yang tinggi dan ikhlas menjalankan tugasnya. Dari keikhlasan jiwa pengurus dan guru inilah maka MTs Ma’arif Jumo tumbuh dan berkembang menjadi besar seperti saat ini.
