Ilmu Ushul fiqh ada sejak ilmu fiqh ada. Dimana ada fiqh, maka wajib ada ushul fiqh, ketentuan dan kaidahnya. Sekalipun keberadaannya bersamaan, fiqh lebih dulu dibukukan dari ushul fiqh. Dalam arti problematika, kaedah dan bab-bab di dalamnya lebih dulu dibukukan, dipisah dan dibeda-bedakan.

   Hal ini tidak berarti bahwa ushul fiqh tidak ada sebelum adanya fiqh atau sebelum dibukukan, atau bahwa ulama fiqh tidak menggunakan kaidah  dan metode yang tetap dalam mencetuskan hukum. karena faktanya, kaidah dan metode ushul fiqh sudah menyatu dalam jiwa para mujtahid. Mereka telah bergumul dengan ushul fiqh sekalipun tidak terang-terangan. Maka saat sahabat sekaligus ulama fiqh, Abdullah ibnu masud mengatakan bahwa, "masa penantian (iddah) wanita hamil yang ditinggal mati suaminya adalah sampai ia melahirkan", maka beliau mendasarkan firman Allah Swt, "...dan (bagi) wanita-wanita hamil, (maka) waktu tunggunya adalah sampai dia melahirkan ...", (At Talaq : 4). Beliau mengambil dalil surat At-Talaq karena ayat ini turun setelah turunnya surat Al-Baqarah : 234"orang-orang yang mati dan meninggalkan istri, maka mereka (istri) harus menahan diri mereka selama empat bulan sepuluh hari."  Dengan apa yang dilakukan itu, berarti Abdullah bin Mas'ud telah mengamalkan kaidah ushul fiqh, yakni Nash yang datang terakhir menggugurkan nash yang datang sebelumnya. sekalipun beliau tak menjelaskan.

   Pada umumnya, sesuatu itu ada, baru kemudian dibukukan. Pembukuan menerangkan keberadaannya, bukan munculnya, seperti halnya dalam ilmu nahwu (Ilmu alat) dan ilmu manthiq (ilmu logika). Orang arab selalu merafa'kan fa'il dan menasasabkan maf'ul, sekalipun ilmu nahwu belum dibukukukan. Orang berakal akan berdiskusi berdasarkan hal-hal yang pasti kebenarannya (aksioma / al-badihi), sebelum ilmu manthiq dan kaidah-kaidahnya dibukukan.

   Dengan demikian, ushul fiqh adalah ilmu yang menyertai fiqh sejak munculnya, bahkan ada sebelum fiqh. Sebab ushul fiqh adalah aturan pencetusan hukum dan ukuran pendapat, tetapi saat itu belum dianggap perlu untuk membukukannya. Pada masa Nabi Muhammad Saw, tidak perlu membahas kaidah ushul fiqh apalagi membukukannya, karena nabi sendiri adalah tempat rujukan fatwa dan hukum. Pada waktu itu tidak ada satu faktor apapun yang mengharuskan ijtihad atau fiqh.Tidak ada ijtihad berarti tidak perlu metode dan kaidah pencetusan hukum.

   Setelah Nabi Saw wafat, muncul banyak permasalahan baru yang hanya bisa diselesaikan dengan ijtihad dan dicetuskan hukumnya dari Al-Qur'an dan Sunnah. Akan tetapi ulama fiqh dari kalangan sahabat belum merasa perlu untuk berbicara kaidah atau metode dalam pengambilan dalil atau mencetuskan hukum, karena mereka memahami bahasa arab dan seluk-beluknya serta segi penunjukan kata dan kalimat pada makna yang dikandungnya. Mereka mengetahui rahasia dan hikmah pensyari'atan, sebab turunnya Al-Qur'an dan datangnya Sunnah.

   Cara sahabat mencetuskan hukum, ketika muncul sebuah permasalahan baru, mereka mencari hikmahnya dalam kitab, jika belum menemukan juga mereka berijtihad dengan cahaya pengetahuan mereka tentang maqashid as-syariah (tujuan pensyariatan) dan apa yang diisyaratkan oleh nash. Mereka tidak menemui kesulitan dalam berijtihad dan tak perlu membukukan kaidah-kaidahnya. Mereka benar-benar dibantu oleh jiwa kefaqihan yang mereka dapatkan setelah menemani dan menyertai Nabi Saw sekian lama. Para sahabat kemiliki keistimewaan berupa ingatan yang tajam, jiwa yang bersih dan daya tangkap yang cepat.

   Sampai masa sahabat lewat, kaidah ushul fiqh belum dibukukan, demikian pula pada masa tabi'in, mereka mengikuti cara sahabat dalam mencetuskan hukum. Tabi'in tidak merasa perlu membukukan kaidah pencetus hukum, karena mereka hidup dekat dengan masa Nabi dan telah belajar banyak dari sahabat.

   Setelah lewat masa tabi'in, kekuasaan Islam semakin meluas, permasalahan dan hal-hal baru muncul, orang arab dan non arab bercampur sehingga Bahasa arab tidak murni lagi,  muncul banyak ijtihad, mujtahid dan cara mereka dalam mencetuskan hukum, diskusi dan perdebatan meluas, keraguan dan kebimbangan menjamur. Karena itulah ulama fiqh kemudian menganggap perlu untuk meletakkan kaidah dan metode berijtihad, agar para mujtahid dapat menjadikan rujukan dan ukuran kebenaran saat terjadi perselisihan.

   Kaidah-kaidah yang mereka letakkan adalah berlandaskan pada tata bahasa arab, tujuan dan rahasia pensyariatan, maslahat (kebaikan), dan cara sahabat dalam pengambilan dalil. Dari semua kaidah dan pembahasan itulah ilmu ushul fiqh muncul.

   Ilmu ushul fiqh muncul dalam bentuk pembukuan adalah sebagai konsenkuensi dari banyaknya kaidah yang muncul dalam perdebatan ulama ketika menjelaskan hukum, dalil, Dan segi penunjukan dalil. Perbedaan pendapat di kalangan ulama fiqh didukung oleh kaidah ushul fiqh, masing-masing mereka mendasarkan pendapatnya pada kaidah ushul fiqh untuk memperkuat analisis, meningkatkan pamor madzhab (aliran), dan menjelaskan rujukan dalam ijtihad mereka.

   Ada pendapat mengatakan bahwa ulama yang pertama kali menulis tentang ushul fiqh adalah Abu Yusuf, ulama pengikut Hanafiyah, akan tetapi kitab-kitabnya tidak pernah kita temukan. Sedangkan pendapat yang umum di kalangan ulama, bahwa ulama yang pertama kali membukukan ilmu ushul fiqh adalah Imam Muhammad bin Idris As-Syafi'i (w. 204 H.)
   Imam Syafi'i menulis kitab Ar-Risalah yang terkenal. Di dalamnya Imam Syafi'i berbicara tentang Al-Qur'an, bagaimana Al-Qur'an menjelaskan hukum, sunnah, ijma' dan qiyas, nasikh dan mansukh, amar dan nahi, berhujjah (berargumentasi) dengan hadist ahad, dan bahasan ushul fiqh yang lain.
   Imam Syafi'i menulis kitab Ar-Risalah dengan teliti, mendalam, setiap pendapatnya didasarkan dengan dalil, dan mendiskusikan pendapat yang berbeda secara ilmiah, sempurna dan mengagumkan.
   Setelah Imam Syafi'i, Imam Ahmad bin Hanbal menulis kitab tentang taat kepada Rasulullah Saw, kedua tentang nasikh dan mansukh, dan ketiga tentang 'ilat, kemudian para ulama berbondong-bondong menulis, menyusun dan menambah bahasan.