Di tengah kemajuan teknologi yang luar biasa, kita dihadapkan pada tantangan baru yang semakin kompleks dan berbahaya. Salah satu di antaranya adalah fenomena disinformasi dan narasi perpecahan yang semakin sulit dibedakan, terutama dengan hadirnya kecerdasan buatan (AI) yang mampu menciptakan kebohongan dengan sangat meyakinkan. Teknologi deepfake, yang dapat memanipulasi gambar, suara, dan video, kini menjadi ancaman besar bagi kestabilan sosial dan politik di banyak negara, termasuk Indonesia.
Indonesia sendiri berada di urutan lima besar negara pengguna AI terbanyak di dunia. Namun, di balik prestasi ini, literasi digital masyarakat kita masih jauh tertinggal, dan dalam dua tahun terakhir, tidak ada perkembangan signifikan yang terlihat. Fenomena ini semakin mengkhawatirkan ketika kita menyaksikan hoaks dan disinformasi semakin mudah tersebar luas melalui platform media sosial, seperti yang baru-baru ini terjadi pada unggahan video di Instagram yang menggambarkan Menteri Keuangan Sri Mulyani Indrawati menyebut guru sebagai “beban negara.”
Padahal, klaim tersebut adalah hoaks. Berdasarkan klarifikasi dari Kepala Biro Komunikasi dan Layanan Informasi Kemenkeu Republik Indonesia, Deni Surjantoro, potongan video tersebut adalah hasil deepfake yang diproduksi dengan memanipulasi pidato Sri Mulyani dalam Forum Konvensi Sains, Teknologi, dan Industri Indonesia di ITB pada 7 Agustus. Dalam video yang telah tersebar tersebut, pernyataan yang seolah-olah disampaikan oleh Sri Mulyani tidak pernah ada. Meskipun klarifikasi resmi telah dikeluarkan, serta unggahan klarifikasi dari Menteri Keuangan sendiri, kegaduhan tetap tidak bisa dihentikan dengan serta-merta. Hal ini menunjukkan bahwa kita tengah menghadapi gejala kekacauan informasi di era kecerdasan buatan yang semakin sulit untuk diatasi.
Fenomena disinformasi ini sesungguhnya bukanlah hal baru. Kita telah melihat berbagai kasus penyebaran hoaks dan informasi yang salah sebelumnya. Namun, yang membedakan kondisi saat ini adalah kecepatan dan kekuatan manipulasi yang dibawa oleh teknologi AI. Dalam kasus Sri Mulyani, narasi “guru beban negara” langsung menyentuh urat emosi kolektif masyarakat Indonesia yang sudah lama terpendam. Keresahan para guru terkait penghasilan rendah, ketimpangan kesejahteraan, dan ketidakadilan dalam sistem pendidikan menjadi bahan bakar yang mudah disulut oleh sebuah narasi yang tidak berdasar.
Deepfake bukan hanya sebuah fenomena teknologi, tetapi juga sebuah alat untuk merusak tatanan sosial dan politik. Deepfake bisa membuat seseorang terlihat atau terdengar seperti mengatakan hal-hal yang sebenarnya tidak pernah mereka ucapkan atau lakukan. Teknologi ini dapat dengan mudah dimanfaatkan oleh individu atau kelompok dengan tujuan menyebarkan kebohongan, memecah belah masyarakat, dan merusak kepercayaan terhadap institusi-institusi yang ada.
Yang lebih mengkhawatirkan adalah bahwa kebenaran kini harus mengejar narasi yang sudah terlanjur dipercaya oleh masyarakat. Ini menciptakan ketimpangan yang besar antara fakta dan persepsi yang telah terbentuk, yang pada gilirannya mempersulit upaya untuk membalikkan atau mengoreksi informasi yang salah. Sebagai contoh, meskipun klarifikasi tentang video Sri Mulyani sudah disebarkan, banyak orang yang masih mempercayai narasi hoaks tersebut, karena kebohongan sudah lebih dulu viral dan mengakar di benak publik. Di sinilah kita mulai melihat bahaya disintegrasi sosial yang lebih luas, di mana perbedaan pendapat dan ketegangan sosial semakin diperburuk oleh narasi yang diproduksi secara sengaja.
Lebih jauh lagi, ancaman ini bukan hanya soal politik dan sosial. Deepfake juga dapat menjadi sarana untuk meradikalisasi individu, memanipulasi emosi mereka, dan mendorong mereka untuk terlibat dalam aksi kekerasan atau aktivitas teroris. Dalam banyak kasus, teknologi seperti deepfake dapat digunakan untuk menambah ketegangan antar kelompok, menyebarkan kebencian, dan memperburuk konflik yang sudah ada. Hal ini menambah kerumitan dalam menghadapi ancaman terorisme, di mana narasi-narasi ekstremis dan radikal bisa dengan mudah disebarkan untuk menghasut orang-orang yang rentan terhadap pengaruh tersebut.
Untuk mengatasi masalah ini, kita perlu memperkuat literasi digital di Indonesia. Masyarakat harus diberi pemahaman yang lebih mendalam mengenai cara kerja AI dan teknologi deepfake, serta bagaimana cara membedakan antara informasi yang valid dan yang palsu. Selain itu, kita juga memerlukan regulasi yang lebih ketat terkait penggunaan teknologi ini, termasuk dalam hal pencegahan penyebaran konten palsu yang merusak.
Sebuah artikel yang berjudul The Role of Artificial Intelligence (AI) in Combatting Deepfakes and Digital Misinformation tahun 2024 menjelaskan bahwa, untuk melawan deepfake dan disinformasi, pendekatan utama adalah dengan mengembangkan teknologi kecerdasan buatan (AI) yang mampu mendeteksi konten palsu secara cepat dan akurat. AI dapat menganalisis pola gambar, video, suara, maupun teks untuk membedakan mana yang asli dan mana yang hasil manipulasi. Metode seperti image/video forensics, analisis tekstual dengan machine learning, serta penggunaan Generative Adversarial Networks (GANs) untuk melawan GANs lain, menjadi senjata kunci. Namun, karena teknologi deepfake terus berkembang, deteksi saja tidak cukup. Perlu ada sistem verifikasi dan fact-checking otomatis yang terintegrasi dengan platform media sosial agar konten berbahaya bisa diblokir sebelum viral.
Selain teknologi, melawan disinformasi juga memerlukan pendekatan sosial, etis, dan hukum. Edukasi literasi digital bagi masyarakat penting agar orang lebih kritis saat menerima informasi. Regulasi dan kerangka hukum juga harus ditegakkan untuk mengatur penyebaran konten manipulatif, melindungi privasi, serta memastikan akuntabilitas platform digital. Upaya kolaboratif antara peneliti, pemerintah, industri teknologi, dan masyarakat luas dibutuhkan agar perang melawan deepfake dan disinformasi tidak hanya bersifat reaktif, tetapi juga preventif, dengan membangun sistem yang lebih transparan, terpercaya, dan tahan terhadap manipulasi.
