Tarekat sufi yang kita kenal saat ini sebenarnya sudah ada sejak abad ke-6 H/12 M, tetapi satu segi penting dari gerakan ini sudah ada jauh sebelumnya. Segi yang dimaksud di sini adalah genealogi otoritas spiritual yang disebut sebagai silsilah. Konsep ‘silsilah’ sendiri kemungkinan besar menjiplak dari pranata isnad yang dikembangkan oleh para Ahli Hadis untuk menopang validitas kebenaran Hadis.

Pada abad ke-4 H, seorang sufi bernama al-Khuldi (w. 348 H), menelusuri genealogi ajaran mistiknya sampai ke Hasan Basri (w. 110 H) dan dari situ, melalui sahabat Anas bin Malik, sampai kepada Nabi sendiri. Garis silsilah belakangan mulai kembali kepada Ali, kebanyakan melalui Hasan Basri, tetapi kadang juga melalui tokoh-tokoh awal yang dimuliakan dalam Syiah di kalangan keturunan Ali.

Menurut Fazlur Rahman (1979), genealogi ini boleh jadi diragukan, tetapi sejarah menunjukkan bahwa sejak abad ke-7 H, Sufisme Sunni yang terorganisasi sudah mulai menobatkan Imam-imam Syiah, dan dengan begitu juga menggerogoti Syiah dari dalam, yang paling terkena imbas penyebarluasan sufisme.

Tetapi di beberapa tarekat sufi sayap-kiri, terutama tarekat Bektasyi di Turki, pengaruh Syiah dan esoterisnya sangat kuat. Barangkali untuk melawan arus penisbatan kepada Imam Syiah inilah tarekat Naqsyabandiyah merujukkan silsilahnya kepada khalifah pertama, Abu Bakar, dan tarekat Suhrawardi merunut sumbernya kepada khalifah kedua, Umar bin al-Khattab.

Istilah Islam untuk menyebut ‘thariqah’ (tarekat) juga sulit menemukan padanannya dalam tradisi agama-agama lain. Dalam tradisi Kristen misalnya, ada istilah ‘ordo’ atau persaudaraan spiritual. Istilah ordo merujuk pada aspek pengorganisasian dari sufisme, sedangkan tarekat sebenarnya lebih mengacu pada ‘jalan’ sufi yang diyakini dapat menuntun seseorang untuk sampai kepada Tuhan.

Karenanya, boleh jadi ada tarekat yang tidak memiliki perkumpulan atau yang terorganisasi secara sistematis. Malahan, sebelum sufisme yang terorganisasi muncul, sudah ada sejumlah tarekat yang hanya sebatas aliran doktrin sufi. Kemunculan tarekat sufi lebih terkait dengan fase awal aliran-aliran mistik ini, dan istilah tarekat tetap dipelihara makna aslinya sebagai metode yang menekankan pada doktrin, meskipun praktik lahiriahnya juga semakin penting.

Di Indonesia, tokoh sentral dalam tarekat disebut Mursyid, atau Syaikh kalau dalam tradisi Arab, yang tempat kediaman dan pengajarannya bisa di pesantren (sering merangkap), ada pula zawiyah atau ribat (di Arab), khanqah di India dan Persia, tekke di Turki, yang berfungsi sebagai pusat kegiatan spiritual jemaahnya. 

Keanggotaannya biasanya ada dua macam; kelompok inti dan kelompok biasa, yang lebih banyak jumlahnya sesekali berkunjung untuk mendapatkan pengajaran baru, dan setelah itu kembali menjalankan urusan kesehariannya masing-masing.

Sekarang ini, jumlah tarekat sufi di seantero dunia sangat banyak sekali, termasuk di Indonesia, yang tak jarang juga perkumpulannya berafiliasi dengan gerakan organisasi sosial dan keagamaan. Tetapi intinya, setiap tarekat memiliki ragam ritus yang berbeda-beda, kadang pula tarekat-tarekat itu juga sangat berbeda dari segi pandangan umum dan komposisi pengikutnya.

Yang menarik adalah, berbagai aliran tarekat itu juga saling berinteraksi satu sama lain dan sulit mempertahankan garis pemisah yang kaku, terutama dalam beberapa abad terakhir ini. Seorang pengikut tarekat tertentu tidak hanya bisa menjadi anggota beberapa tarekat sekaligus, tetapi juga suatu cabang dari tarekat induk kadang mengklaim silsilah spiritual yang di dalamnya ada tokoh-tokoh spiritual dari tarekat induk lain.

Tarekat-tarekat yang berupa cabang, seringnya hanya mempunyai afiliasi titular saja dengan tarekat induknya dan mencoba merintis jalannya sendiri, baik dengan mempertahankan dan menambahkan ritus bawaannya atau memilih arah yang sama sekali baru, tetapi kebanyakan tidak. Di antara sedikit tarekat yang mampu mempertahankan keanggotaan secara eksklusif adalah tarekat Naqsabandiyah dan Qadiriyah serta penggabungan keduannya di daratan Indonesia.

Perlu di catat, sangat mungkin tarekat sufi tertua dan paling tersebar adalah tarekat Qadiriyah. Tarekat ini menaungi hampir semua tarekat lain yang terkait dengannya karena pernah mendapat pengaruhnya, kalau bukan turunan langsung darinya. Bagi tarekat-tarekat lainnya, Qadiriyah sudah menjadi semacam rumah induk karena keluwesan dan karena jamaahnya sendiri, yang sering otonom dan semi-otonom, tersebar ke berbagai penjuru dunia Islam.

Nama tarekat Qadiriyah diambil dari Abdul Qadir Jilani ( w. 525 H) dari daerah Jilan, sebelah selatan Laut Kaspia. Ciri utama ajaran tarekat ini adalah seruan agar tidak tenggelam dalam keduniaan dan penekanan pada derma dan kemanusiaan. Tarekat ini bercita-cita ‘menutup gerbang neraka dan membuka pintu-pintu surge bagi segenap umat manusia’.

Meskipun, sangat kecil kemungkinan bahwa Abdul Qadir Jilani sendiri yang berniat mendirikan tarekat, selain mengajari para pengikut spiritualnya yang terdekat. Yang paling berperan dalam pendirian dan penyebaran awal tarekat Qadiriyah adalah anaknya. Di sisi lain, Qadiriyah juga merupakan tarekat yang sufi yang paling damai dan terkenal dengan kesalehan dan etos kemanusiaannya, yang sejak semula ditanamkan oleh seorang Mursyid di tarekat ini.

Terlepas dari itu, hal yang juga menarik terkait dengan berbagai macam aliran tarekat adalah tentang fenomena penyematan keajaiban kepada para wali atau yang umum disebut sebagai karamah. Sebagian besar corak ‘keajaiban’ ini sengaja dibuat untuk mengangkat martabat seorang wali atau tarekat yang diwakilinya. 

Dalam hal ini, ketika sang murid menyebut Mursyidnya memiliki karamah ini dan itu, sang Mursyid sering membiarkan saja, meskipun ia tidak mengklaim keajaiban apa pun, ia dengan sendirinya terhubung secara langsung dengan murid-muridnya.