Kehadiran artificial intelligence [AI], seperti kita tahu, telah mendisrupsi begitu banyak bisnis yang sudah mapan selama puluhan tahun; dalam sekejap mereka dikalahkan oleh perusahaan-perusahaan rintisan di seluruh dunia. Di sektor itu AI mendatangkan manfaat sosial sangat besar – inilah justru kunci kemajuannya yang membuat gagap begitu banyak raksasa bisnis tradisional.

Beberapa tahun lalu mesin AI produk sebuah perusahaan rintisan berhasil menulis esai dengan kematangan ide setingkat siswa SMA; sangat mungkin saat ini mesin itu sudah bisa menulis makalah ilmiah sekelas tulisan doktor; juga mampu menulis karya sastra.

Grup Microsoft memberhentikan beberapa puluh wartawan yang menjalankan sayap bisnis medianya, untuk digantikan dengan robot. Kantor berita Reuters juga sudah mempekerjakan robot untuk menulis berita. Tamedia, sebuah grup perusahaan media di Swiss, mempekerjakan robot-robot yang disebut mampu memproduksi 40.000 tulisan dalam lima menit. Dengan bantuan AI, grup Amazon merekrut 90.000 pegawai hanya dalam satu hari.

Tapi bahaya-bahaya yang dicemaskan Elon Musk dll itu tentang AI juga nyata. Di bidang pengintaian (surveillance), sekarang pun sudah terlihat dampaknya. Di tangan penguasa otoriter, pengintaian oleh AI dapat digunakan untuk mengawasi warganya secara total – meski dalam aspek ini AI juga bisa ampuh untuk menekan angka kriminalitas atau menangkap buron yang sudah bertahun-tahun lolos.

Dulu pengawasan oleh pemerintah (misalnya di Uni Soviet) hanya berupa penguntitan pembangkang; intel KGB menguntit orang seperti Andrei Sakharov ke mana pun ia bergerak selama 24 jam sehari.

Bahkan aplikasi WhatsApp, yang kini digunakan oleh miliaran manusia, dibuat oleh Jan Koum, imigran Amerika dari Ukraina, lantaran ia traumatik karena ayahnya hilang setelah gerak-geriknya dipantau tanpa henti oleh intel penguasa; maka ia, katanya, berusaha membuat teknologi komunikasi yang anti-sadap.

Semua itu merupakan pengawasan "over the skin"; masih kasar dan fisikal. Pengembangan AI memungkinkan pengawasan "under the skin", yang membuat sang mesin mampu memahami kita lebih baik dibanding kita memahami diri sendiri.

Jika kita menonton televisi atau menggunakan telepon seluler, misalnya, seseorang entah di mana bisa tahu bagaimana perasaan kita saat menonton acara tertentu; bagaimana reaksi kita ketika membaca buku tertentu. Saat ini pun hal itu sudah kita alami.

Cobalah baca buku di aplikasi Apple Books, misalnya. Ia akan tepat menunjukkan di halaman berapa kita berhenti dalam pembacaan sebelumnya. Jika ada kata yang kita tidak pahami dalam sebuah buku, kita hanya perlu mengklik kata itu lalu kita kontan terhubung dengan penjelasan kata itu di dalam kamus.

Dengan cara itu pula sebenarnya yang terjadi adalah saling baca antara kita dan buku. Kita membaca teks di dalamnya, sang buku membaca emosi kita. Maka ia tahu di halaman berapa kita berhenti membaca, kata-kata apa yang kita tandai, istilah-istilah apa yang kita tak mengerti; kapan kita kembali ke buku itu [disertai pemberitahuan telah berapa persen Anda membaca buku itu].

Makin lama data semacam ini makin lengkap. Dua-tiga tahun lagi data di seputar ini, dan dengan demikian fasilitas dan fiturnya – misalnya bacaan kita langsung bisa terhubung dengan semua buku yang membahas isu yang sama untuk keperluan cek silang – akan makin dipertajam. Makin lama data reaksi tubuh dan pikiran kita pun diketahui kian mendetail; apakah kita berkeringat, apakah tekanan darah naik, apakah asam lambung meningkat, dst.

Singkatnya, sang buku mengerti bioritmik kita saat kita membacanya – dan dengan demikian si buku pun lebih jelas dalam membaca diri kita. Semua data ini bisa digunakan oleh dunia industri untuk menawarkan barang-barang tertentu kepada Anda secara spesifik, langsung ke HP Anda; ini bisa mengurangi biaya pemasaran dan promosi.

Tentu ini bisa negatif, tapi juga bisa sangat positif bagi kebutuhan kita. Dengan itu kita bisa menghemat waktu dalam menyeleksi barang yang kita butuhkan. Kita juga mungkin diberitahu bahwa kita membutuhkan obat tertentu, meski kita bahkan tidak menyadari gejala penyakit yang mungkin bersarang di dalam tubuh kita.

Tapi penguasa di negeri seperti RRT pun bisa memanfaatkannya untuk mengawasi warganya; dan sejauh ini hal itu sudah terjadi di sana. Seorang buron tahunan tiba-tiba ditangkap, lima menit setiba ia di gedung konser musik, 100 kilometer dari persembunyiannya.

Para pengamat dan pemain AI di Amerika bahkan mengakui kemajuan AI Cina akan segera melampuai negeri mereka. Peter Diamandis, pendiri Universitas Singularity, memastikan RRT akan segera menjadi pusat terbesar pengembangan AI di dunia, setelah mengunjungi kota-kota RRT tahun lalu.

Itulah yang membuat Henry Kissinger dalam usia 90an merasa perlu menulis artikel panjang di Atlantic Monthly, yang memperingatkan bahaya nyata berupa keunggulan AI Cina dalam persaingan dengan Amerika – keprihatinan politisi veteran memang terbatas dalam konteks kemampuan kompetisi negaranya di panggung global. Kissinger mengaku sudah banyak berdiskusi dengan pakar-pakar terbaik AI dan menyimpulkan bahwa dalam soal teknologi yang sama sekali ia tidak kenali itu, RRT sudah mengungguli Amerika.

Di tangan penguasa seperti Kim Jong-un, detektor AI bisa digunakan untuk mengamati detak jantung dan perasaan warganya. Jika ada warga Pyongyang yang saat menyaksikan pidato dia di televisi tertawa mengejek, meski secara diam-diam di rumahnya sendiri, mungkin dalam lima menit ia didatangi pasukan khusus yang akan membawanya ke lapangan tembak.

Untuk persenjataan, salah satu skenario yang sudah dibayangkan, dan telah dibuat video simulasinya, adalah pembentukan barisan tentara robot sebesar lalat. Sebuah pesawat bisa mengangkut berjuta-juta serdadu semacam itu untuk diterjunkan di wilayah musuh. Mereka bisa beterbangan ke sana kemari tanpa seorang pun di wilayah itu menyadarinya.

Seekor serdadu AI bisa menyelinap di sela-sela jendela gedung tinggi yang terbuka, lalu masuk ke ruang rapat tempat para pemimpin atau pebisnis sedang berunding, dan menembak. Setiap ekor cukup membawa tiga gram mesiu; ini jumlah yang cukup untuk memastikan kematian korban jika ditembakkan ke otak atau jantung manusia, dan serdadu lalat pasti mampu menembak dengan akurat.

Serdadu robot supermini semacam ini sulit dikontrol pembuatan dan pengembangannya. Senjata nuklir tentu saja merupakan ancaman paling mengerikan bagi umat manusia, selain runtuhnya ekosistem dunia, tapi proliferasi nuklir dan pengayaan uranium untuk pengembangannya di sejumlah negara lebih bisa dikontrol, diawasi badan nuklir PBB dengan protokol yang mendetail.

Untuk pengembangan serdadu robotik, bagaimana cara dunia mengontrolnya?

***

Dengan teknologi yang kecanggihannya mencemaskan itu, pada banyak kesempatan lain Stephen Hawking tetap cemas akan kemungkinan dunia ditaklukkan oleh alien dari luar angkasa.

Berulang kali ia memohon agar jangan ada upaya apa pun dari pihak manusia untuk coba-coba mengontak makhluk-makhluk luar angkasa. Jika kontak terjadi dan mereka tertarik dengan kita, menurut dia, umat manusia akan sangat terancam karena mereka ia yakini memiliki teknologi yang jauh lebih unggul dan karenanya akan memperbudak kita.

Fisikawan dan pemopuler sains Michio Kaku juga percaya keberadaan alien. Bahwa mereka tidak tertarik atau belum berminat kepada manusia bumi, itu karena mereka anggap kita terlalu remeh untuk diperhitungkan.

"Ibarat Anda melakukan perjalanan dengan mobil," kata Kaku, "di tengah jalan Anda buang air kecil lalu melihat semut di rerumputan. Apakah Anda akan tanya kepada semut itu di mana ratunya dan sebagainya? Tentu tidak, kan? Sebab semut itu sangat remeh. Begitu juga: manusia dianggap tak berarti oleh alien luar angkasa itu."

Meski Hawking berulang kali mewanti-wanti agar ilmuwan menghentikan upaya mengontak makhluk luar angkasa, upaya-upaya ke arah sana terus saja dilakukan sejak beberapa puluh tahun lalu. Stasiun-stasiun pemancar dan penerima gelombang terus disempurnakan kepekaan dan kecanggihannya, misalnya parabola raksasa yang diletakkan di pegunungan Peru. Tahun depan bahkan akan mulai dibangun parabola seluas satu kilometer persegi, dengan satu juta antena radio, oleh konsorsium pimpinan Australia.

Ilmuwan bumi pernah mengirim sapaan perkenalan dengan menggunakan suara wartawan mashur Walter Cronkite, selain mengirim Ninth Symphony Beethoven. Tiada tanggapan apa pun dari atas sana. Mungkin Michio Kaku benar. Kita hanya mereka pandang seremeh semut yang tertatih-tatih di rerumputan.

Tapi para ahli tetap giat memburu alien dengan proyek pencarian kehidupan di luar angkasa (SETI, search for extraterrestrial life). Joseph Gale baru-baru ini menulis di International Journal of Astrobiology (ya, mereka bahkan sudah membentuk disiplin astrobiologi) bahwa temuan-temuan mutakhir AI akan mengubah seluruh paradigma SETI. Dan Singularity yang tercapai 25 tahun lagi akan merupakan pencapai manusia terbesar dan terakhir. Kisah selanjutnya tidak ada yang mampu meramalkan.

***

Dalam perkembangan lain, muncul metode editing gen, seperti telah disebut. Jeniffer Doudna, pelopor metode itu, dalam ceramah di TED mengimbau para moralis dan etisis untuk memikirkan dampak dari kemampuan editing gen (pendefinisi manusia).

Ia menunjukkan bukti bahwa teknik CRISPR Cas9 memang mampu mengedit gen, dengan menunjukkan gambar-gambar tentang apa yang telah dikerjakan di laboratoriumnya. Dua dari enam ekor tikus tanpa bulu terlihat berwarna hitam di layar besar – menunjukkan bahwa editing gen bisa mengubah warna kulit sebagai salah satu kemampuannya.

Sambil berpesan kepada para etisis agar memikirkan masalah ini, Doudna mengisyaratkan bahwa mereka mungkin bisa menetapkan batas-batas etis untuk editing gen, tapi tidak boleh dan memang tidak akan bisa membendung hasrat ilmuwan untuk melanjutkan penelitian dan kemampuan mereka.

Dalam dunia yang kian terbuka, kemampuan ilmiah semacam itu memang dengan cepat menyebar di kalangan profesional sejenis. Dan benar saja. Tak lama kemudian, seorang dokter Cina mengklaim telah menerapkan metode CRISPR terhadap seorang perempuan hamil demi menyelamatkan bayinya.

Doudna mungkin teringat dan tak mau terulang apa yang terjadi beberapa tahun sebelumnya ketika teknologi stem cell ditemukan. Pemerintahan George Bush Jr. melarang penerapannya, diduga karena tekanan Christian Coalition. Para ilmuwan dan dokter spesialis bidang itu segera menanggapinya dengan berbondong-bondong pindah dari Amerika, konon jumlahnya beribu-ribu, terutama ke Inggris. Amerika mengalami brain drain yang sangat merugikan.

Semua orang tahu kekuatan utama negeri itu adalah kehebatan universitas dan ilmuwan-ilmuwannya (perolehan Hadiah Nobel bagi ilmuwan Amerika yang sangat besar merupakan indikator pentingnya). Jika cuaca keilmuan mendung, kegiatan ilmiah tentu akan merosot dan bisa melanda bidang-bidang lain, bukan hanya sektor stem cell.

Lagi pula, negara telah berinvestasi sangat besar untuk mencetak begitu banyak ahli; ironis jika hasilnya justru dipetik negara lain, tempat mereka "mengungsi"; betapa beruntungnya negara-negara itu, mendapat ahli-ahli terbaik tanpa pernah berinvestasi untuk mencetaknya. Brain drain itu begitu terasa. Tak lama kemudian Presiden Bush mencabut larangan untuk menarik pulang jagoan-jagoan medis itu. Sebagian besar kabarnya kembali; hal yang tidak bisa disebut brain gain oleh Amerika.

***

Demikian pula, para penggiat biologi sintetik (synbio) pun mengirim surat kepada Presiden Obama di masa kedua presidensinya. Mereka memberitahu bahwa mereka akan segera sanggup menciptakan makhluk baru, dan mengharap pemerintah Amerika mengeluarkan keputusan yang jelas mengenai hal ini.

Tentu saja dampak hal itu adalah mereka bisa pindah ke negara lain seandainya keputusan Obama tidak mendukung. Dan hal itu menyimpan potensi bahaya. Tidak ada yang bisa menjamin karya-karya mereka tidak digunakan oleh negara-negara lain untuk pemanfaatan makhluk-makhluk itu dengan cara yang merugikan Amerika dan dunia.

Presiden Obama kemudian membentuk komisi khusus untuk mempelajarinya, dan dia sendiri yang menjadi ketua komisi. Tak terdengar lagi kabar lanjut isu ini, seolah tenggelam oleh gemerlap cahaya sang primadona baru: artificial intelligence dengan segenap buahnya yang memukau sekaligus menggentarkan dunia.

Tak ada lagi berita perkembangan kemajuan synbio, setelah kita disuguhi dokumenter Craig Venter yang dari kapal eksplorasinya di tengah laut, menyatakan: "Masa depan dunia ada di kapal ini." Venter adalah ahli biologi yang pertama kali membuat sekuensi genom secara lengkap.

Ia bekerja di luar kampus, di lembaga miliknya sendiri, J. Craig Venter Institute. Ia pernah mendapat USD 600 juta dari raksasa Exxon untuk membuat bahan bakar minyak dari air dengan berbasis bakteri – Exxon yang cerdik tidak akan sudi memberi uang sebanyak itu jika Venter tidak menunjukkan dengan meyakinkan bahwa teorinya realistis.

Apakah tenggelamnya pemberitaan tentang synbio berarti berhenti pula aktivitas para penggiatnya?

Di saluran TV National Geographic, George Church dari MIT, yang juga pelopor CRISPR, dengan kalem dan percaya-diri menunjukkan bahwa ia dan timnya hanya perlu melengkapi kira-kira seratus tahap lagi untuk membuat manusia. Itu jumlah yang kecil. Sekian ribu problem lainnya sudah mereka atasi.

Aktivitas Church, Venter dan lain-lain itulah yang membuat Newsweek membuat cerita sampul kira-kira sepuluh tahun lalu: Life 2.0. Kehidupan akan segera naik ke level berikutnya, seperti kapasitas komputer.

Ternyata ambisi itu diambil alih oleh AI, sehingga Max Tegmark memberi judul bukunya, Life 3.0: Being Human in the Age of Artificial Intelligence [2017]. Ia memberi napas spirit yang berbeda daripada ambisi para penggiat synbio, sesuai visinya yang sangat hati-hati dan kritis terhadap potensi destruktif AI.