Beliau anak dari Lebai Thalib yang merupakan ulama dan tokoh masyarakat Tapanuli Selatan. Pada usia 9 tahun, tepatnya tahun 1917 Syekh Muhammad Arsyad memulai karir keilmuannya dengan berguru kepada Seorang ulama lulusan Mekkah yaitu Syekh Zainuddin Billah. Beliau belajar dengan Syekh tersebut selama 3 tahun, kemudian Muhammad Arsyad muda melanjutkan belajarnya kepada Syekh Mahmud Ismail Lubis yang merupakan ulama penulis murid dari Ulama terkenal yaitu Syekh Hasan Maksum yang merupakan murid dari Syekh Ahmad Khatib Minangkabau.
Selama dalam masa belajar dengan Syekh Mahmud Lubis, Muhammad Arsyad telah mulai dilatih dalam menulis beberapa artikel keislaman, hal ini dikarenakan gurunya Syekh Mahmud Lubis adalah ulama yang dikenal dengan tulisan-tulisannya. Padahal Syekh Arsyad ketika itu masih dalam usia yang sangat belia sekitar 14 tahun. Selanjutnya Syekh Arsyad muda belajar ke Tanjung Balai kepada ulama lulusan Mekkah lainnya yaitu Syekh Abdul Hamid Muhammad, di sini beliau memperdalam kemampuannya dalam bahasa Arab.
Pada usianya 17 tahun mulailah Syekh Arsyad hijrah ke Medan dan menjadi murid di Madrasah Hasaniyah. Adapun guru utamanya di madrasah ini adalah Ulama besar dan Mufti Kerajaan Deli yaitu Syekh Hasan Maksum yang masyhur itu. Lebih kurang selama 5 tahun Syekh Arsyad dengan segenap kesungguhan belajar kepada ulama tersebut khusus kitab-kitab besar dalam Mazhab Imam Syafi’i seperti Kitab: Minhaj Thalibin karya Imam Nawawi yang kemudian disyarah menjadi Nihayah dan Tuhfah, dalam Ushul Fiqih Kitab Jam’ul Jawami’, dalam Hadits Sahih Bukhari, dalam bidang Tafsir Kitab Jalalain karya Imam Al Mahalli dan Suyuthi, dan kitab-kitab lainnya.
Seluruh kitab-kitab tersebut beliau belajar langsung dengan Syekh Hasan Maksum yang menghabiskan 20 tahun lebih belajar di Mekkah yang juga Murid Syekh Ahmad Khatib Minangkabau yang terkenal itu. Bahkan pada era itu hidup banyak ulama-ulama terpandang yang berasal dari Medan sebut saja misalnya; Syekh Abdul Qadir al Mandahili, Syekh Hasan Maksum, Syekh Abdul Wahab Basilam Mursyid Tarekat Naqsyabandiyah, Syekh Mustafa Purba Baru Pendiri Pesantren Mustafawiyah, Syekh Muhammad Yunus Tokoh Al Washliyah, Syekh Adnan Lubis Pengarang Kitab Pelajaran Akhlak Jawo, Syekh Abdurrahman Syihab Tokoh besar Al Washliyah Medan, KH Zainal Arifin Lubis ahli sejarah, Syekh Abdul Halim Hasan pengarang Kitab Tafsir, dan masih banyak ulama-ulama Medan lainnya.
Tidak mengherankan dengan kesungguhannya dalam belajar kepada para ulama telah mengantarkan seorang Muhammad Arsyad muda menjadi ulama muda yang mendalam ilmunya. Bahkan Syekh Arsyad telah mulai menulis dalam banyak bidang keilmuan Islam mulai dari Fiqih, Ushul Fiqih, Hadits, Ilmu Hadits, Faraidh, Qawaid Fiqih dan bahkan beliau seorang ahli yang menulis dalam perbandingan agama. Di antara karyanya yang banyak dikaji oleh para pelajar pemula ialah Kitab Jawo Riwayat Nabi yaitu Riwayat lengkap tentang kehidupan dan perjuangan Rasulullah SAW yang ditulis dalam tulisan Jawi/Melayu lama. Dulu, hampir setiap sore Kitab tersebut dibaca oleh guru-guru TPA di seluruh Indonesia termasuk Aceh.
Sebagai seorang ulama, Syekh Muhammad Arsyad Thalib Lubis telah banyak berkontribusi dalam berbagai bidang. Beliau pernah menjadi Guru di Madrasah Irsyadiyah, Qismul ‘Ali dan Guru Besar dalam Fiqih dan Ushul Fiqih di Universitas Islam Sumatera Utara, Universitas Al Washliyah Medan. Bahkan beliau pernah beberapa tahun berdakwah dan mengajar di Meulaboh Aceh Barat.
Selain sebagai ulama, penulis produktif, Syekh Arsyad juga pernah menjadi Tokoh Sentral Al Washliyah Medan bersama Ustadz Abdurrahman Syihab, Ustadz Ismail Banda dan para ulama lainnya dan beliau juga pernah di Masyumi sebelum dibubarkan.
Selain itu Syekh Arsyad juga banyak mengkader para ilmuwan yang melanjutkan estafetnya keilmuannya seperti: Prof Nukman Sulaiman, Prof Abdullah Syah Mantan Ketua MUI Medan, KH Muhammad Ridwan Ibrahim Lubis, Prof Muhammad Hasballah Thaib dan para ulama Medan lainnya.
Walaupun ilmunya yang luas dan karyanya yang banyak, saat melaksanakan ibadah haji, Syekh Muhammad Arsyad disebutkan berguru kepada Ulama Sanad Dunia Islam yaitu Syekh Muhammad Yasin Padang yang usianya lebih muda dari beliau. Rahimahullah rahmatan wasi’atan Haji Arsyad Thalib Lubis sang Pengarang.
No responses yet