Mind Your Spectacle! ISIS kini Gunakan AI sebagai Medium Propaganda

Akselerasi digital selalu membawa tantangan baru, utamanya dalam konteks penanggulangan terorisme. Penggunaan teknologi kecerdasan buatan (AI) oleh kelompok teroris Al-Qaeda dan Islamic State untuk memperluas propaganda digital menjadi ancaman nyata. Sebuah artikel dari Global Network on Extremism & Technology (2024) berjudul AI JIHAD: Dechipering Hamas, Al-Qaeda and Islamic State’s Generative AI Digital Arsenal mengungkapkan bagaimana teknologi ini digunakan untuk menciptakan konten digital yang menyesatkan dan mempengaruhi audiens global.

Artikel tersebut menjelaskan bahwa Al-Qaeda dan Islamic State memanfaatkan teknologi audio deepfake untuk membuat nasheed atau lagu-lagu “perang Islami” yang dinyanyikan oleh karakter kartun populer seperti Spongebob Squarepants dan Rick Sanchez. Strategi ini bertujuan untuk menjangkau audiens muda dengan memasukkan pesan ekstremis dalam konten sehingga kesannya menjadi tidak berbahaya dan menghibur. Dengan cara ini, mereka berhasil menarik perhatian anak-anak dan remaja, memperkenalkan mereka pada ideologi radikal tanpa disadari.

Mulai awal tahun 2023, platform online mengalami peningkatan signifikan terutama dalam hal konversi suara atau deepfake audio yang sangat meyakinkan dari selebritas dan politisi, mulai dari yang tidak masuk akal hingga yang tidak nyata. Salah satu contoh populer adalah video viral TikTok yang menampilkan Joe Biden dan Donald Trump yang terlibat pertarungan video game sambil membicarakan kehidupan. Contoh-contoh ini sebagian besar dianggap tidak berbahaya dan lucu.

Namun, tren ini dengan cepat diadopsi oleh aktor-aktor lain, termasuk afiliasi atau simpatisan kelompok-kelompok seperti al-Qaeda dan ISIS. Selama beberapa bulan terakhir, ada banyak sekali konten yang diposting ke TikTok di mana versi animasi dari karakter terkenal, seperti Spongebob Squarepants dan Rick Sanchez serta YouTuber populer seperti PewDiePie dan MrBeast terdengar menyanyikan nasyid pertempuran yang lazim digunakan untuk memotivasi prajurit dalam pertempuran.

Saat ini, nasyid-nasyid tersebut telah diadaptasi oleh kelompok-kelompok ekstremis untuk menggalang pendukung dan mengagung-agungkan tujuan mereka, menampilkan pesan mereka melalui platform digital tanpa pendampingan instrumental. Beberapa dari video ini telah ditonton ratusan ribu kali, menyoroti dampak kuat dari penggabungan budaya populer dan teknologi canggih untuk menyebarkan pesan-pesan ekstremis.

Selain buat nyebarin propaganda, teknologi AI juga dipakai untuk berkomunikasi dengan calon anggota baru. Misalnya, chatbot seperti ChatGPT digunakan untuk menjawab pertanyaan dan menyebarkan ideologi ekstremis.  Meski ChatGPT punya aturan yang mencegah penyalahgunaan, tapi aturan ini ternyata bisa diakali. Ini sekaligus membuktikan bahwa anggota kelompok ekstrimis bukan orang awam. Mereka cukup pintar menggunakan gawai dan seperangkat teknologi.   Selama setahun terakhir, pengamat dari berbagai lembaga riset sudah memantau bagaimana ISIS dan kelompok ekstremis lainnya cukup giat menggunakan perangkat lunak digital terbaru.

The Washington Post pada bulan Februari 2024 melaporkan bahwa sebuah kelompok yang berafiliasi dengan al-Qaeda bahkan mengumumkan akan mengadakan lokakarya AI secara online. Menyusul agenda ini, perusahaan AI, di sisi lain, harus memantau penggunaan produk mereka dan mengambil langkah-langkah proaktif seperti pembatasan prompt dan peringatan bagi pengguna yang mencoba menyalahgunakan teknologi tersebut. Pelatihan lintas industri, yang melibatkan perusahaan AI, platform media sosial, dan pejabat intelijen, juga diperlukan untuk mengidentifikasi dan menanggulangi ancaman secara kolaboratif.

Pemerintah juga memiliki peran penting dalam mendidik publik tentang cara mengenali dan memahami manipulasi teknologi dalam penyebaran misinformasi. Program pendidikan yang fokus pada peningkatan literasi digital masyarakat, seperti yang telah dilakukan oleh Estonia dan Taiwan, sangat penting untuk melindungi masyarakat dari pengaruh propaganda ekstremis.

Indonesia, sebagai negara yang rentan terhadap ancaman terorisme, perlu mengadopsi pendekatan serupa. Kerjasama antara pemerintah, perusahaan teknologi, dan masyarakat harus diperkuat untuk memastikan bahwa teknologi AI tidak disalahgunakan untuk tujuan terorisme dan propaganda ekstremis. Dengan langkah-langkah ini, diharapkan Indonesia dapat lebih siap menghadapi tantangan terorisme di era digital.

Badan Nasional Penanggulangan Terorisme (BNPT) sebagai fungsi koordinator penanggulangan teror perlu mempertimbangkan langkah-langkah strategis untuk mengantisipasi propaganda masif ini. BNPT misalnya bisa bekerja sama dengan perusahaan media sosial untuk memperkuat kapabilitas intelijen sumber terbuka (OSINT) mereka untuk mendeteksi dan menghapus konten berbahaya yang dihasilkan oleh AI. Kerjasama dengan firma khusus dan pelatihan tim internal juga penting untuk mengidentifikasi celah dalam sistem moderasi konten.