Pada tahun 1968 ketika Majelis Tarjih Pimpinan Pusat Muhammadiyah diketuai oleh KH. Kanjeng Raden Tumenggung Wardan Diponingrat, beliau merekrut KH Raden Umar Afandi sebagai anggota Majelis Tarjih bersama kyai-kyai yang lain. Pengangkatan KH Raden Umar Afandi sebagai anggota Majelis Tarjih adalah didasarkan kepada kealimannya dan lebih lagi kepada kepiawaiannya dalam membaca turats (kitab kuning).
Sejak duduk di Majelis Tarjih timbul khawatir dalam diri KH. Raden Umar Afandi akan kelangkaan kader ulama, setelah melihat banyaknya ulama tarjih yang sudah tua dan mulai tidak produktif, bahkan kemudian satu demi satu meninggal dunia. Sementara pada waktu itu di kalangan generasi muda Muhammadiyah tidak banyak yang mempunyai animo untuk belajar mendalami ilmu agama. Kelangkaan ulama yang memiliki kemampuan tarjih mungkin belum terprediksi oleh anggota tarjih generasi awal, namun KH. Raden Umar Afandi memandang pentingnya pendidikan yang diorientasikan secara khusus menjadi ulama ahli fikih yang sejalan ideologi Muhammadiyah di masa depan.
KH Raden Umar Afandi paham betul bahwa sejak awal didirikannya, misi utama Muhammadiyah sebagai organisasi keagamaan Islam adalah pembaharuan atau tajdid pemahaman Agama Islam. Seiring dengan berjalannya waktu perkembangan Muhammadiyah semakin merebak di berbagai wilayah, daerah dan ranting, demikian pula perkembangan amal usahanya. Dalam pikiran KH Raden Umar Afandi harus dibarengi dengan kualitas dan kuantitas ulamanya. Untuk itu perlu hadirnya lembaga pendidikan ulama khusus yang mengajarkan turats.
Melalui tahapan diskusi, rapat dan perenungan yang mendalam para anggota Majelis, keinginan kuat KH Umar Afandi mendirikan lembaga pendidikan kader ulama tarjih terjawab. Pada tanggal 12 Muharram 1388 H atau tanggal 10 April 1968 M sekolah kader tarjih dibuka secara resmi dengan nama Pendidikan Ulama Tarjih Muhammadiyah (PUTM) di Yogyakarta dan sekaligus KH. Raden Umar Afandi yang diberi amanat sebagai pengelolanya.
Dalam menentukan formalisasi pendidikan, seperti dasar dan arah atau tujuan serta materi-materi yang perlu diajarkan KH. Raden Umar Afandi meminta pendapat kepada ulama-ulama tarjih yang lebih senior dari pada dirinya, seperti KH. KRT Wardan Diponingrat, KRH Hadjid dan lain-lain. Pada awalnya penerimaan thalabah hanya untuk laki-laki dan dilakukan 4 tahun sekali, kemudian pada tahun 2007 penerimaan thalabah dilakukan per 2 tahun dan mulai tahun 2009 dilakukan penerimaan satu kali setiap tahun. Pada tahun 2009 ini juga mulai dibuka penerimaan thalibat (perempuan).
Di samping itu mulai tahun 2009 sebagian thalabah baru PUTM yang telah memenuhi persyaratan terdaftar sebagai mahasiswa Program Studi Pendidikan Agama Islam Universitas Muhammadiyah Yogyakarta (UMY) dan sebagian lagi terdaftar sebagai mahasiswa Program Studi Tafsir Hadis (sekarang Program Ilmu Hadis) Universitas Ahmad Dahlan (UAD) Yogyakarta dengan bebas biaya perkuliahan dan subsidi biaya konsumsi dan akomodasi