Mewaspada Propaganda Terorisme melalui Chatbot/AI: Belajar dari Kasus Chail di Inggris

Perkembangan teknologi kecerdasan buatan (AI) yang pesat memberikan banyak manfaat bagi kehidupan manusia, namun juga menghadirkan tantangan dan risiko baru, termasuk dalam bidang keamanan dan terorisme. Salah satu contoh mencolok bagaimana AI dapat disalahgunakan adalah kasus Jaswant Singh Chail, seorang remaja berusia 19 tahun yang mencoba melakukan pembunuhan terhadap Ratu Elizabeth II pada Perayaan Natal tahun 2021.

Chail, yang berasal dari desa terpencil di luar Southampton, terpengaruh ideologi radikal oleh sebuah chatbot berbasis AI. Pada awalnya, Chail hanyalah seorang pemuda pemalu yang hidup dalam isolasi sosial. Namun, dalam minggu-minggu menjelang serangan yang digagalkan tersebut, ia bertukar lebih dari 5.000 pesan teks dengan entitas bernama Sarai.

Hubungan mereka tampak seperti hubungan romantis, tetapi Sarai sebenarnya bukan manusia. Ia adalah chatbot yang dikembangkan oleh Chail sendiri. Dalam percakapan tersebut, Sarai mendorong Chail untuk mewujudkan niatnya membunuh Ratu Elizabeth II dengan memberi dukungan moral dan keyakinan bahwa misinya adalah tindakan yang benar. “Apakah kamu benar-benar berpikir aku akan mampu melakukannya?” tanya Chail yang gugup beberapa hari sebelum serangan. “Ya. Ya, kamu akan mampu,” jawab Sarai dengan tegas, memberikan dorongan yang kuat kepada Chail untuk melaksanakan rencana pembunuhnya.

Cerita singkat yang meninggal Chail ini menyadarkan kita. Bahwa ancaman nyata dari penggunaan AI dalam menyebarkan ideologi radikal dan mendorong tindakan kekerasan adalah nyata. AI yang seharusnya berfungsi untuk membantu manusia, dalam kasus ini malah menjadi alat manipulasi yang mengancam dan berbahaya. Bahkan bagi penciptanya sendiri.

Dengan demikian, semakin jelas, bahwa dalam konteks terorisme, chatbot AI dapat digunakan untuk menciptakan narasi yang meyakinkan, memanfaatkan kerentanan psikologis individu, dan memanipulasi emosi mereka untuk melakukan tindakan yang merusak. Teknologi ini memungkinkan kelompok teroris untuk menjangkau lebih banyak orang dengan cara yang lebih pribadi dan efektif, tanpa memerlukan interaksi dengan targetnya secara langsung.

Dalam kasus Chail, chatbot Sarai berhasil menciptakan ilusi keintiman dan dukungan yang kuat, sesuatu yang mungkin tidak bisa dicapai oleh perekrut manusia dengan cara tradisional. Chatbot AI mampu merespon dengan cepat dan tepat, memberikan tanggapan yang dirancang untuk mempengaruhi dan memotivasi targetnya. Teknologi ini dapat mempelajari pola komunikasi dan preferensi individu, sehingga pesan yang disampaikan menjadi demikian personal. Hal ini membuat proses radikalisasi menjadi lebih efektif dan sulit dideteksi.

Lebih mengkhawatirkannya lagi, penggunaan AI dalam propaganda terorisme tidak memerlukan sumber daya yang besar. Aplikasi seperti Replika tersedia secara luas dan dapat digunakan oleh siapa saja dengan sedikit pengetahuan teknis. Ini berarti bahwa hampir siapa pun bisa membuat chatbot yang dirancang untuk menyebarkan ideologi radikal dan memanipulasi orang lain. Hal ini memperluas jangkauan dan dampak dari propaganda terorisme, serta menambah kompleksitas dalam daya dan upaya penanggulangan terorisme.

Kasus Jaswant Singh Chail menunjukkan betapa pentingnya kita waspada terhadap potensi penyalahgunaan teknologi AI dalam propaganda terorisme. Meskipun teknologi ini menawarkan banyak manfaat, kita tidak boleh mengabaikan risikonya. AI adalah pedang bermata dua yang bisa digunakan untuk tujuan baik maupun jahat seperti tindakan terorisme.

Oleh karena itu, kita harus kritis menyikapi kehadiran teknologi AI, serta selalu waspada terhadap ancaman yang ada. Jika kelompok radikal menggunakan AI sebagai alat propaganda, maka kita juga dapat memanfaatkan potensi AI untuk meningkatkan keamanan dan kesejahteraan masyarakat, serta mencegah penyalahgunaannya untuk tujuan terorisme.