Hukum-hukum syari’at Islam bersumber pada kitab suci “Al-Qur’an, sunnah (hadits-hadits) Rasulullah dan ijtihadnya para ulama dalam hal-hal yang belum ada nash (penegasannya) dalam Al-Qur’an maupun hadits Rasulullah saw.
Diriwayatkan oleh Imam Ahmad, Abu Dawud, Ibnu Majah dan Attermidzi bahwa Rasulullah saw. bertanya kepada Mu’adz ketika beliau mengutusnya ke Yaman sebagai wali:
“Dengan apa engkau akan memerintah (menghukum)?”
“Dengan kitab Allah”, jawab Mu’adz.
“Jika engkau tidak menemukannya (hukum yang dicari)?”, tanya Rasulullah.
“Dengan Sunnah Rasulullah”, jawab Mu’adz.
“Dan jika engkau tidak juga menemukannya?”, tanya lagi Rasulullah saw.
“Aku akan berijtihad sekuat tenaga dan pikiranku”, jawab Mu’adz.
Lalu bersabdalah Rasulullah saw. seraya memukul dada Mu’adz:
“Alhamdulillah, syukur kepada Allah yang telah memberi taufik kepada pesuruh Rasulullah untuk melakukan apa yang diridhai dan dikehendaki Rasulullah saw.
بم تحكم؟ قال: بكتاب الله، قال فإن لم تجد؟ قال بسنّة رسول الله. قال: فإن لم تجد؟ قال: أجتهد رأيى، لاالو "أى لا أقصّر" فضرب فى صدره و قال: الحمد لله الّذى وفّق رسول رسول الله لما يرضى رسول الله.