Jalur penyebaran Tarekat Khalwatiyah berawal dari Iran, Mesir, Sudan, kemudian masuk ke Timur Tengah (termasuk Makkah dan Madinah). Makkah dan Madinah merupakan tujuan orang muslim menunaikan ibadah haji dan memperdalam ilmu agama, termasuk dari Indonesia, sehingga dua kota tersebut menjadi jembatan masuknya Tarekat Khalwatiyah ke Indonesia.
Tarekat Khalwatiyah masuk ke Indonesia dibawa oleh dua orang, yaitu:
1. Syaikh Yusuf al-Makassari
Beliau mengambil Tarekat Khalwatiyah dari Syaikh Abu al-Barakat Ayyub bin Ahmad bin Ayyub al-Khalwati al-Quraisyi ketika berada di Damaskus. Syaikh Yusuf juga sempat mencari ilmu ke Yaman, berguru pada Syaikh Abdullah Muhammad bin Abd al-Baqi.
Di Sulawesi selatan beliau digelari Tuanta salanmaka ni gawa (guru kami yang agung dari gowa), nama lengkapnya Muhammad Yusuf bin Abdullah abu Mahasin al-Tajal-Khalwati al-Makassari.
Menurut sejarah Gowa, al-Makassari dilahirkan di Tollo wilayah kerajaan Gowa dan meninggal di Tanjung harapan Afrika selatan pada tanggal 22 Dzul Qa’dah 1110 H. /22 Mei 1699 M. Ibunya bernama Aminah putri Gallarang Mendongke.
Riwayat pendidikan Syaikh Yusuf dimulai dari daerahnya sendiri karena wilayahnya sering didatangi oleh para da’i yang kebanyakan berasal dari Aceh, Minangkabau Kalimantan Selatan, Jawa, Semenanjung Melayu dan Timur Tengah.
Karena kota Makassar sejak abad ke 15 memang sering didatangi pedagang Melayu dan pedagang asing. Syaikh Yusuf juga sempat mencari ilmu ke Yaman, berguru pada Syaikh Abdullah Muhammad bin Abd al-Baqi, dan ke Damaskus untuk berguru pada Syaikh Abu al-Barakat Ayyub bin Ahmad bin Ayyub al-Khalwati al-Quraisyi.
2. Syaikh Abdus Shamad al-Falimbani Palembang.
Beliau menyebarkan tarekat ini di Sumatra kemudian berkembang ke Kalimantan dan masuk ke Jawa. (Adhwâ’ ‘ala al-Tarekat al-Rahmaniyah al-Khalwatiyah, halaman: 47).
Syaikh Abdus Shamad Al-Falimbani adalah ulama besar dari Palembang yang lahir pada tahun 1704 M, beliau sempat menjadi pengajar keagamaan di Masjid al-Haram pada abad 18. Popularitasnya sebagai ulama besar tidak lepas dari keluarganya yang berasal dari kalangan yang taat beragama.
Ayahnya yang bernama Syekh Abdul Jalil bin Syekh Abdul Wahhab bin Syekh Ahmad al-Mahdani, seorang mufti di Kedah. Syaikh Abdus Shamad Al-Falimbani pada mulanya banyak belajar agama, terutama ilmu tasawuf dari tokoh-tokoh dan ulama yang berasal dari tanah air seperti Abdur Rauf Singkel dan Syamsuddin as-Sumatrani.
Semangatnya dalam menuntut ilmu telah menarik minatnya untuk berguru pada ulama-ulama di luar negeri. Beliau juga banyak belajar dari ulama yang terkenal seperti Syaikh Abdurrahman bin Abdul Aziz al-Maghribi dan Ahmad bin Abdul Mun`im ad-Damanhuri dari mesir. Dalam beberapa tahun belajar dan sudah mumpuni keilmuwannya, beliau mulai mengajarkan ilmunya di Masjid al-Haram.
Selain mengajar, beliau juga banyak menulis buku yang digunakan oleh kaum muslimin dalam kehidupan sosial dan religius. Seperti, Hidayat as-Salikin fi Suluk Maslak al-Muttaqin (Petunjuk untuk mencapai Tingkat Muttaqin). Dalam hal sosial, al-Falimbani tidak sepakat dan menentang segala bentuk kolonialisme yang dilakukan Barat, terutama perlakuan kepada negara-negara Islam.
Karena itu, al-Falimbani menghimbau kepada kaum muslimin dunia, untuk melakukan jihad fi sabilillah. Himbauan al-Falimbani tidak hanya dilakukan melalui ceramahnya, tapi juga diwujudkan melalui penulisan kitab yang berjudul Nasihah al-Muslimin wa TazkiRAh al-Mu`min fi Fada`il al-Jihad fi sabil Allah wa Karamah al-Mujahidin (Nasihat bagi muslimin dan Peringatan bagi Mukminin Mengenai Keutamaan Jihad di Jalan Allah) ditulis pada tahun 1772 dalam bahasa Arab.
Dengan penulisan buku tersebut kaum muslimin diharapkan memiliki jiwa atau semangat juang dalam menegakkan kebenaran di muka bumi. Al-Falimbani juga mengajarkan Tarekat Khalwatiyah as-Sammaniyah dengan meyakini bahwa seorang guru bisa menjadi wasilah antara Tuhan dengan muridnya. Sebagai jalan mencapai ketauhidan yang tinggi, al-Falimbani memberikan rujukan kepada kaum muslimin melalui kitab Ratib yang berisi tentang zikir, pujian serta doa. Al-Falimbani wafat pada tahun 1788 di Perbatasan Malaysia dan Siam.
Sanad Khalwatiyah