KH Chudlori lahir di Tegalrejo Magelang, Jawa Tengah dari pasangan Muhammad Ikhsan dan Mujirah. Ia anak kedua dari sepuluh bersaudara. Muhammad Ikhsan adalah penghulu Tegalrejo pada masa penjajahan Belanda.

Ayah Muhammad Ikhsan bernama Abdul Halim, juga penghulu zaman Belanda yang sangat dihormati. Abdul Halim menangani urusan agama di Magelang meliputi kecamatan Candimulyo, Martoyudan, Mungkid, dan Tegalrejo. 

Pada tahun 1923, seteleh menyelesaikan Hollandsch-Inlandsche School (HIS), lembaga pendidikan setingkat Sekolah Dasar zaman Belanda, Chudlori kecil dikirim ayahnya ke pesantren Payaman yang diasuh KH Siroj. Ia menghabiskan 2 tahun di pesantren tersebut.

Kemudian pindah ke pesantren Koripan di bawah asuhan Kiai Abdan. Tapi kemudian pindah lagi ke pesantren Kiai Rahmat di daerah Gragab hingga tahun 1928. Kehausan akan ilmu agama, ia kemudian nyantri ke Tebuireng yang waktu itu diasuh Hadrotussyekh KH Hasyim Asy'ari. 

Di pesantren pendiri NU tersebut, ia mempelajari beragam kitab. Saat di Tebuireng, ayah Chudlori mengirim uang sebanyak Rp. 750,- per bulan, tetapi ia hanya menghabiskan Rp.150,- dan mengembalikan sisanya. Chudlori hanya makan singkong dan minum air yang digunakan untuk merebus singkong itu.

Dia melakukan ini dalam rangka riyadlah, amalan yang biasa dilakukan para santri. Cerita lainnya tentang Chudlori, di kamarnya di Tebuireng, ia membuat kotak belajar khusus dari papan tipis dan menempatkan kotak tersebut diantara loteng dan atap. 

Kapan saja bila ingin menghafal atau memahami pelajarannya, Chudlori naik dan duduk di atas kotak sehingga bisa berkonsentrasi dengan baik. Kotak ini sempit, tidak nyaman dan berbahaya untuk duduk. Jadi dengan kedisiplinan dia dapat belajar setiap hari hingga tengah malam. 

Kapan saja tertidur sebelum tengah malam, dia menghukum dirinya sendiri dengan berpuasa pada hari berikutnya tanpa makan sahur. Dan itu dilakukan saat Chudlori mondok di Tebu Ireng.

Kemudian pada tahun 1933, ia pindah lagi Bendo, Pare, Kediri, menjadi santri Kiai Chozin Muhajir. Di situ ia belajar fiqih dan tasawuf seperti kitab Ihya Ulumuddin karya Imam Ghazali. Empat tahun berikutnya, ia mengaji di pesantren Sedayu, belajar ilmu membaca Al-Qur’an selama 7 bulan. 

Pada tahun 1937, ia nyantri lagi ke Lasem, Jawa Tengah, yang diasuh KH Ma'shum dan KH Baidlowi. Kemudian Setelah menikahi putri KH Dalhar Watucongol, ia sempat mengajar di pesantren mertuanya tersebut. Namun mengajarkan ilmu agama di kampung halamannya adalah cita-citanya yang menggebu-gebu.

Sehingga ia selalu melakukan mujahadah dan meminta petunjuk Allah Swt untuk niatnya itu. Setelah mendapat petunjuk dan membicarakan kepada mertuanya, kemudian pada 15 September 1944 KH Chudlori pulang kampung dan mendirikan pesantren di Tegalrejo. 

Masyarakat desa itu, ketika ia mendirikan pesantren, terbelah menjadi yang pro dan kontra. Kalangan yang pro gembira karena ada anak kampungnya yang menyebarkan ajaran agama. Sebaliknya yang kontra, lebih karena antipati terhadap penyebaran Islam. 

Sebagai kiai yang digembleng bertahun-tahun, Chudlori tetap tegar menghadapi kalangan yang kontra. Ia tetap menjalankan misinya mengembangkan syariat Islam. 

Awalnya, Chudlori tak memberikan nama khusus pada pesantrennya, namun pada tahun 1947, atas saran teman-teman seperjuangannya, ia menamainya dengan Asrama Perguruan Islam (API). Nama itu merupakan hasil istikharahnya. Dengan nama itu, ia berharap santri-santrinya kelak akan jadi api penerang umat dalam kegelapan. 

Pada tahun 1947, ketika Belanda melakukan Agresi Militer, Pesantren API menjadi benteng perjuangan mempertahankan kemerdekaan oleh para gerilyawan. Bahkan Chodlori yang kini sudah bergelar kiai, mengizinkan santrinya untuk turut berjuang. 

Aktivitas belajar-mengajar dihentikan untuk sementara waktu. Karena perjuangan itu diketahui Belanda, pesantrennya kemudian dibakar habis. Santri, keluarga, dan Kiai Chudlori sendiri mengungsi dari satu desa ke desa lain. 

Kemudian di tahun 1949, ia kembali ke desanya dan mebangun kembali pesantren. Pembangunan kali ini, dibantu warga masyarakat yang telah bersimpati pada perjuangannya. 

Santri pun bertambah banyak. Pada tahun 1977, ia memiliki sekitar 1500 santri. Di tahun tersebut, pesantren API sedang berkembang pesat, tapi di tahun itu pula Kiai Chudlori dipanggil Yang Kuasa.

Beliau di makamkan di belakang pondok pesantren API Tegalrejo. Makam beliau setiap harinya dikunjungi oleh peziarah. Apalagi santri-santri yang berada di sekitarnya. Pastinya menyempatkan waktu untuk sekedar mengirim Fatihah kepada beliau.

Dan sekarang diteruskan oleh putranya yang bernama KH Yusuf Chudori. Yang santrinya melonjak sangat banyak. Pada tahun 2015 santrinya mencapai 4. 487 santri putra dan 2.500 santri putri. Sampai sekarang masih dalam pembangunan untuk menambah ruang-ruang yang belum memadai di dalam pesantren.

Di pesantren API sekarang tidak hanya  salaf, berbasis sekolah juga disediakan seperti SMP, SMA, SMK yang berjumlah 1.300 orang santri putra-putri. Yang diasuh oleh KH Achmad Izzuddin. Yang tempatnya tidak jauh dari pasar Tegalrejo. Di pesantren API moderen juga bercabang ke Secang, Bandongan, dan Tempuran.

Saking pesatnya, sampai mendirikan rumah sakit yang bernama RS Syubanul Wathon. Yang juga bertempat di Tegalrejo.