Empat hari pasca penyerangan ISIS ke gedung konser di Rusia pada Maret 2024 lalu, kelompok ekstrem itu menciptakan program media berbasis AI bernama News Harvest untuk menyebarkan video propaganda. Program ini memproduksi siaran mingguan yang menampilkan pembawa acara berbasis AI dan membahas operasi ISIS secara global.
Fenomena menjadi semacam indikator bahwa keberadaan AI telah dimanfaatkan kelompok ekstremis untuk menyebarkan propaganda mereka. Video propaganda itu memang memakai new anchor palsu buatan AI, alias sosoknya tidak pernah benar-benar ada. Namun, propaganda yang disebarluaskannya benar-benar nyata dan berbahaya.
Ini artinya, gerakan radikal telah memasuki sebuah tahapan baru. Gerakan radikal-teror telah sampai di abad kecerdasan buatan. Hari ini, kecerdasan buatan itu hanya dipakai untuk menyebarkan propaganda kebencian dan kekerasan. Bukan tidak mungkin, di masa depan teknologi AI diadaptasi sebagai senjata teror dan kekerasan berbasis siber (cyber terrorism).
Sebagaimana gerakan lainnya, radikal-terorisme tentu berevolusi sesuai perkembangan zaman. Di masa lalu sampai hari ini, modus aksi terorisme lebih banyak dilakukan dengan cara konvensional. Misalnya melakukan bom bunuh diri, serangan bersenjata ke obyek vital atau fasilitas umum, maupun aksi sabotase yang menyasar fasilitas pemerintah. Cara konvensional ini cenderung dilakukan dengan strategi yang berbasis pada teknologi analog.
Dengan kemunculan AI dan teknologi turunannya, bukan tidak mungkin di masa depan, aksi teror dan kekerasan kelompok ekstrem dilakukan dengan melibatkan teknologi digital dan kecerdasan buatan. Modus terorisme pun berkembang sedemikian rupa, tidak hanya terbatas pada aksi kekerasan konvensional.
Aksi terorisme di abad AI kemungkinan akan berevolusi menjadi lebih canggih. Serangan fisik bergeser ke serangan siber yang tidak kalah mematikan. Misalnya, serbuan hacker ke situs-situs penting yang berhubungan dengan ekonomi global seperti pasar saham, perbankan internasional, dan industri keuangan global lainnya. Jika itu terjadi, dapat dibayangkan betapa kekacauan yang ditimbulkan.
Dengan teknologi AI seperti pesawat tanpa awak, aksi kekerasan dan teror juga dimungkinkan untuk dilakukan secara jarak jauh. Aksi teror dengan senjata berbasis AI yang auto-pilot ini akan menjadi ancaman dan tantangan berat bagi keamanan nasional. Bisa dibayangkan jika teknologi persenjataan berbasis AI ini jatuh ke tangan ekstremis.
Lebih spesifik, kita juga patut menyoroti perkembangan deepfake sebagai teknologi yang dilahirkan dari perkembangan AI. Saat ini, deepfake menjadi salah satu teknologi yang diadaptasi oleh kelompok teroris global untuk menyebarkan propaganda ekstremismenya. ISIS misalnya, tercatat sebagai organisasi ekstrem paling getol memakai deepfake dalam aktivitas propagandanya. Mereka memproduksi video propaganda ekstremisme dengan mencatut wajah dan suara ulama-ulama Sunni terkenal.
Penggunakan deepfake dalam propaganda radikalisme akan mengubah wajah gerakan ekstremisme dan terorisme secara global. Pemalsuan wajah dan suara memungkinkan terjadinya rekayasa kebenaran. Jika selama ini, kelompok radikal-ekstrem hanya menyelewengkan makna atau tafsir teks-teks keagamaan untuk mendukung gagasannya, di masa depan mereka dapat menciptakan ulama-ulama hasil rekayasa AI untuk menyebarkan fatwa-fatwa yang mendukung teror dan kekerasan.
Jika itu terjadi, maka wajah gerakan radikal-terorisme global akan berubah total. Kita akan kesulitan mengidentifikasi secara jernih mana fatwa dari ulama yang otoritatif atau tidak. Apalagi, jika teknologi deepfake itu juga digunakan untuk mengkloning wajah dan suara para influencer di media sosial. Umat akan terjebak pada misinformasi dan rekayasa kebenaran yang dikemas secara rapi dan nyaris tanpa cacat.
Seperti kita tahu, AI makin ke sini makin canggih. Kelemahan yang muncul ketika pertama kali diperkenalkan kini mulai diperbaiki. Demikian pula teknologi deepfake. Beberapa aplikasi deepfake berbayar kini mampu menghadirkan manipulasi wajah dan suara secara nyaris sempurna. Alhasil, publik awam kian kesulitan mengidentifikasi mana konten asli dan mana rekayasa AI.
Maka, tidak boleh tidak, di zaman ini umat Islam wajib melek teknologi AI. Di abad kecerdasan buatan ini, pengetahuan dasar terkait AI menjadi hal yang mutlak wajib dimiliki setiap umat Islam. Umat Islam wajib membekali dirinya dengan kemampuan untuk mengidentifikasi konten digital hasil olahan AI. Kemampuan mengidentifikasi konten hasil olahan AI itu penting agar umat tidak mudah disesatkan opininya oleh video propaganda berbasis AI.
Kita juga perlu mendorong perusahaan plaform media sosial untuk tegas terhadap penyebaran konten propaganda kebencian atau kekerasan yang dibuat dengan menggunakan AI. Selama ini ada kesan bahwa perusahaan penyedia platform media sosial cenderung abai pada diseminasi konten-konten hasil olahan AI yang manipulatif dan provokatif. Hal ini membuat penyebaran konten olahan AI yang bertendensi memecah-belah kian masif.
Terakhir, namun tidak kalah pentingnya adalah penindakan hukum bagi para pelaku penyalahgunaan AI. Meski belum ada UU yang mengatur secara khusus penggunaaan AI, pelanggaran terhadap penggunaan AI kiranya bisa dijerat dengan pasal yang relevan, seperti UU ITE. Intinya, negara tidak boleh permisif terhadap pelaku penyelewengan AI yang menjadikan teknologi itu sebagai alat untuk memecah-belah bangsa.
