Kecanggihan teknologi kecerdasan buatan (AI) telah membuka babak baru dalam peradaban manusia. Salah satu inovasi yang paling revolusioner sekaligus kontroversial adalah deepfake, sebuah teknologi rekayasa audio-visual yang mampu menciptakan simulasi realitas hampir sempurna. Deepfake memungkinkan seseorang menghadirkan sosok publik berbicara atau bertindak seakan nyata, padahal konten tersebut sepenuhnya hasil manipulasi algoritma.
Satu sisi, deepfake bisa dimanfaatkan untuk tujuan positif, seperti hiburan, edukasi, atau rekonstruksi sejarah. Namun di sisi lain, ia mengandung potensi bencana yang nyata, terutama ketika jatuh ke tangan pihak-pihak yang berniat jahat. Salah satu ancaman paling berbahaya adalah penggunaannya dalam radikalisasi, propaganda ekstremisme, serta upaya memecah belah masyarakat dengan merusak kepercayaan publik terhadap negara maupun lembaga demokrasi.
Deepfake sebagai Instrumen Radikalisasi
Radikalisasi yang lahir dari ideologi menjadikan media sebagai saluran transmisi doktrin, propaganda dan rekrutmen. Dalam konteks ini, deepfake berpotensi memperkuat propaganda radikal dengan tiga cara:
Pertama, penciptaan justifikasi kekerasan. Dengan memanipulasi pidato tokoh tertentu, kelompok ekstrem bisa menghadirkan “legitimasi palsu” atas aksi kekerasan. Bayangkan sebuah video deepfake yang menampilkan seorang pemimpin agama atau pejabat negara seolah-olah menyetujui jihad kekerasan. Bagi simpatisan yang sudah rapuh secara psikologis, konten semacam ini menjadi bahan bakar ideologis yang mematikan.
Kedua, penyebaran kebencian yang menimbulkan polarisasi sosial. Deepfake dapat direkayasa untuk menampilkan tokoh publik menghina kelompok tertentu, misalnya etnis atau agama. Narasi semacam ini sangat berbahaya karena memicu konflik horizontal. Dalam masyarakat yang plural seperti Indonesia, rekayasa seperti ini bisa dengan cepat menyalakan api intoleransi.
Ketiga, erosi kepercayaan pada Negara dan lembaga demokrasi. Konten deepfake juga berpotensi merusak kredibilitas pemerintah dan institusi atau pilar demokrasi. Sebuah rekaman palsu pejabat tinggi negara yang menyatakan kebijakan kontroversial atau meremehkan rakyat dapat menurunkan legitimasi negara. Krisis kepercayaan ini membuka ruang bagi kelompok radikal untuk mengisi kekosongan dengan narasi alternatif.
Kasus Menteri Keuangan Sri Mulyani yang sempat dituding menyebut guru sebagai “beban negara” menjadi contoh nyata. Video yang beredar ternyata adalah hasil potongan tidak utuh dan deepfake, sebagaimana ia klarifikasi. Meski berhasil dibantah, kasus ini menunjukkan betapa rentannya ruang publik kita terhadap manipulasi digital.
Kuasa Algoritma: Bagaimana Menghadapi ?
Penyebaran konten deepfake tak bisa dilepaskan dari kuasa algoritma media sosial. Algoritma dirancang untuk memaksimalkan atensi pengguna, sehingga konten yang paling sensasional, provokatif, atau emosional cenderung lebih cepat viral. Artinya, konten deepfake yang memancing kemarahan atau kebencian justru akan lebih mudah beredar dibanding konten klarifikasi.
Dalam kondisi ini, pengguna menjadi obyek yang rapuh. Mereka digiring oleh arus algoritma tanpa kendali penuh atas apa yang dikonsumsi. Maka, pertanyaan mendesak muncul: bagaimana menjaga kedaulatan pengguna di tengah gempuran algoritma dan manipulasi digital?
Filsuf Jacques Derrida menawarkan pendekatan dekonstruksi yang relevan untuk membedah fenomena ini. Derrida menolak adanya kebenaran tunggal yang absolut, dan justru mengajak kita untuk mencurigai narasi yang tampak final.
Dalam konteks media sosial, pendekatan ini bisa diterapkan dengan membongkar teks dan konteks. Setiap konten yang kita lihat harus ditanyakan ulang dari mana asalnya, siapa yang menyebarkan, dalam konteks apa ia dibuat? Deepfake bekerja dengan memotong konteks, sehingga sikap kritis ini menjadi filter pertama.
Dekonstruksi yang diajarkan Derrida berguna dalam melihat isu dari berbagai sisi, bukan hanya menerima kebenaran yang ditawarkan oleh satu narasi. Dalam praktiknya, pengguna perlu membandingkan informasi dari beragam sumber, termasuk media arus utama, kanal independen, maupun klarifikasi pihak terkait.
Hal lain yang sangat bermanfaat adalah “menunda kepastian”. Dalam dunia digital yang serba cepat, tekanan untuk segera bereaksi sangat besar. Dekonstruksi justru mendorong kita untuk menunda keputusan, menahan emosi, dan tidak langsung menyebarkan konten. Dengan menunda, kita memberi ruang bagi verifikasi yang lebih cermat.
Dengan demikian, dekonstruksi ala Derrida bukan sekadar teori abstrak, melainkan strategi praktis untuk menjaga kedaulatan pengguna. Ia mengajarkan literasi kritis agar kita tidak menjadi korban algoritma dan manipulasi digital.
Tentu saja, pendekatan structural dengan hadirnya regulasi dan teknologi penangkal harus dikembangkan sebagai instrumen deteksi deepfake. Namun, hal lebih penting dalam menghadapi bahaya deepfake adalah kemampuan masyarakat dalam mengenali manipulasi visual dan narasi palsu.
Kedaulatan pengguna adalah benteng terakhir. Hanya dengan sikap kritis, reflektif, dan berdaulat atas konsumsi digital, kita dapat melawan dominasi algoritma dan bahaya radikalisasi yang mengintai.
