Pertama sekali beliau belajar Ilmu Fekah Mazhab Syafie. Dipelajarinya Kitab Al-Tanbih, akan tetapi beliau lebih cenderung kepada pelajaran Sufi. Diserangnya hawa nafsunya, sentiasalah dia berpaling dari manusia demi mendekatkan diri kepada Allah dengan jalan "Memperkaitkan Ilmu Hakikat". Terkenal dia sebagai seorang yang sangat mahir dalam pengetahuan Sufi.

Dari semua pihak, dia mula dikenali dan banyak mendapat pengikut. Terkenallah golongan itu dengan sebutan "Al-Thoifah Al-Rifa'iyah". Banyaklah perkara-perkara dan hal-hal aneh yang berlaku terhadap pengikut-pengikutnya. Di antaranya, mereka dapat masuk ke dalam api yang sedang menyala besar, dapat menjinakkan binatang buas seperti harimau di mana haiwan ini akan menurut kata sehingga dapat dijadikan kenderaan oleh mereka. Banyak lagi keajaiban-keajaiban yang lain lagi.yang ada pada mereka.

Ketika pertama kali Sayyidi Ahmad bertemu dengan seorang Wali bernama Sheikh Abdul Malik Al-Khonubi. Sheikh ini memberinya pelajaran berupa sindiran tetapi sangat berhikmat dan berkesan kepada dirinya iaitu;

Orang yang berpaling dia tiada sampai
Orang yang ragu-ragu tidak dapat kemenangan.
Barangsiapa tidak mengetahui waktunya kurang, maka sekelian waktunya adalah kurang.

Setahun lamanya Sayyidi Ahmad Al-Rifa'i mengulang-ulang perkataan ini. Setelah setahun dia datang kembali menemui Sheikh Abdul Malik Al-Khonubi. Sayyidi Ahmad Al-Rifa'i minta wasiat lagi, maka berkata Sheikh Abdul Malik;

Sangatlah keji kejahilan bagi orang-orang yang mempunyai Akal;
Sangatlah keji penyakit pada sisi sekelian doktor;
Sangatlah keji sekelian kekasih yang meninggalkan Wusul(sampai kepada Allah)

Sayyidi Ahmad Al-Rifa'i mengulang-ulang pula perkatan itu selama setahun dan banyak dia mendapat manfaat dari perkataan itu kerana perkataan itu diresapi, dihayati dan diamalkan. Pada suatu hari Sayyidi Ahmad Al-Rifa'i melalui tempat seorang anak kecil yang sedang bermain-main, lalu dia pun menanya kepada anak itu; "Anak siapa engkau?" Sahut anak itu; "Apa engkau peduli!!!"

Dengan rasa menyesal diulang-ulangi perkataan itu dan beliau pun menangis dengan sedihnya. Dalam pada itu dia berkata;

"Telah kamu beri peradab(mengajar adab) kepadaku hai anakku".

Dia sentiasa menghina dirinya. Salah satu dari sekian budi pekertinya yang mulia ialah beliau seringkali membawa pakaian orang-orang yang berpenyakit kusta dan sakit yang telah menahan yang sangat keji bagi pandangan umum. Dipelihara orang-orang yang sedang sakit itu; dihantarkan makanan untuk mereka dan dia juga turut makan bersama-sama dengan orang-orang sakit itu.

Kalau dia datang dari perjalanan, apabila telah dekat dengan negeri maka dipungutnya kayu api dan setelah itu dibahagi-bahagikan kepada orang-orang sakit, orang buta, orang tua dan sebagainya. Dia berbakti bukan sahaja kepada manusia, tetapi juga kepada binatang.

Diriwayatkan bahawa adalah seekor anjing menderita sakit Jazam(Kusta). Ke mana sahaja anjing itu pergi, ia akan diusir orang. Anjing itu diambil oleh Sayyidi Ahmad Al-Rifa'i lalu dimandikan dengan air panas, diberikan ubat dan makan secukupnya sehingga sembuhlah anjing itu dari penyakit yang dideritainya. Orang bertanya kepadanya; "Mengapa engkau mengamat-amat anjing itu?". Katanya;

"Bahkan aku takut berkata Allah kepadaku pada hari Qiyamat: Tidakkah engkau kasihan dengan anjing itu? Tiada takutkah kamu Aku balakan dengan demikian bala?"

Pada suatu hari, ada seekor kucing sedang nyenyak tidur di atas lengan bajunya. Waktu sembahyang telah masuk lalu diguntingnya lengan bajunya itu kerana tidak sampai hati mengejutkan kucing yang sedang lena tidur itu.

Budi pekerti mulia yang ada padanya pula ialah beliau tidak mahu membalas kejahatan dengan kejahatan. Apabila beliau dimaki oleh orang, beliau terus menundukkan kepadanya mencium bumi dan menangis serta meminta maaf kepada yang memakinya.

Di antara Keramatnya yang besar pula ialah apabila dia mengajar, suaranya dapat didengar oleh orang yang berada di sekitar kampung tempat dia mengajar itu, bahkan orang yang buta sekalipin dapat mendengar dengan jelas penerangan beliau itu.

Jika ada orang minta tuliskan Azimat kepadanya, maka dia ambil kertas lalu ditulis tanpa pena. Pernah ada orang yang ingin mengujinya bahawa kertas yang tidak nampak tertulis itu dibawa kembali kepadanya supaya dituliskan Azimat tetapi anehnya beliau tahu bahawa kertas yang diberiakn kepada beliau itu telah tertulis.

Sewaktu beliau pergi Haji, ketika berziarah ke Maqam Nabi Muhammad SAW., maka nampak tangan dari dalam kubur Nabi bersalam dengan beliau dan beliau pun terus mengucup tangan Nabi SAW. yang mulia itu. Kejadian itu dapat disaksikan oleh orang rami yang sama-sama berziarah ke Maqam Nabi SAW. tersebut. Salah seorang muridnya berkata;

"Ya Sayyidi! Tuan Guru adalah Qutub"

Jawabnya; "Sucikan olehmu syak mu daripada Qutubiyah"

Kata murid: "Tuan Guru adalah Ghaus!"

Jawabnya: "Sucikan syakmu daripada Ghausiyah".

Al-Imam Sya'roni mengatakan bahawa yang demikian itu adalah dalil bahawa Sayyidi Ahmad Al-Rifa'i adalah telah melampaui "Maqaamat" dan "Athwar" kerana bahawasanya Qutub dan Ghaus itu adalah Maqam yang maklum(diketahui umum). Barangsiapa berserta Allah Taala dan dengan Dia, maka tiada diketahui baginya Maqam dan jika ada baginya pada tiap-tiap Maqam itu Maqam sekalipun.

Ketika Sayyidi Ahmad Al-Rifa'i sakit yang mengakibatkan kewafatan beliau, berkata khadamnya kepada beliau;

"Tajallilah bagi Tuan Guru oleh pengantin pada tahun ini"

Jawabnya: "Ya, Bahkan!

Kata khadam: "Dari kerana apa?"

Jawabnya:

"Telah berlaku beberapa perkara yang telah kami belikan dengan Ruh kami. Dan demikian itu telah berlaku bala yang sangat besar atas makhluk. Maka aku menanggungnya dengan yang tinggal daripada umurku. Maka dijualkan kepadaku"

Menangislah Sayyidi Ahmad Al-Rifa'i sambil menelengkup mukanya sambil berkata;

"Ampunilah olehmu hai Tuhanku. Jadikanlah aku sebagai atap bala daripada sekelian makhluk engkau".

Yang dideritai oleh Sayyidi Ahmad Al-Rifa'i ialah sakit "Muntah Berak"(Kolera). Setiap hari keluar dari perutnya. Sakit itu dialaminya selama sebulan. Demikianlah mulia dan besarnya pengorbanan Aulia Allah ini sehingga sanggup menderita sakit menanggung bala yang sepatutnya tersebar ke atas manusia lain.

Orang bertanya kepadanya;

"Dari mana ini? sedangkan sudah dua puluh hari Tuan Guru tidak makan dan tidak minum?"

Jawab Sayyidi Ahmad Al-Rifa'i;

"Ini adalah daging yang hancur. Maka keluarlah ia. Sesungguhnya telah habis daging. Tiada tinggal melainkan hanya sehari ini. Besoknya kami pergi kepada Allah".

Setelah itu ketika wafatnya, keluarlah benda yang putih kira-kira dua tiga kali. Setelah itu berhenti dan tidak ada lagi yang keluar dari perutnya.

Wafatlah Wali Allah yang berbudi pekerti yang halus lagi mulia ini pada hari Khamis waktu Zhohor 12 haribulan Jamadil Awal tahun 570 Hijrah. Riwayat yang lain mengatakan tahun 578 Hijrah.