Belakangan ini perbincangan tentang deepfake dan hoaks berbasis AI kembali memuncak karena lonjakan kasus yang terdeteksi oleh organisasi cek fakta nasional, Masyarakat Antifitnah Indonesia (Mafindo).
Isu ini menjadi tren karena teknologi pembuatan konten palsu semakin mudah diakses, kualitasnya semakin meyakinkan, dan dampaknya meluas ke ranah politik, ekonomi, dan kepercayaan publik.
Cari Berita Lengkap-nya? Klik Disini →
Data & Fakta Utama
Dalam periode riset yang dilaporkan, Mafindo memetakan 1.593 hoaks selama satu tahun terakhir. Mafindo menyebutkan bahwa sekitar 12,7% dari hoaks yang dipetakan terkait dengan bentuk manipulasi (deepfake atau konten berbasis AI).
Dalam laporan mengenai hoaks berbasis AI yang teridentifikasi merinci bahwa ada ratusan konten hoaks yang memanfaatkan AI dimana salahsatu-nya menyebutkan ada sekitar 202 konten hoaks berbasis AI dari total temuan dalam laporan tersebut.
Selain itu sumber pemerintah/institusi digital menyebutkan kenaikan konten deepfake yang sangat besar (angka rujukan internasional menunjukkan kenaikan ratusan persen dalam beberapa tahun terakhir), sehingga pemerintah mendorong platform menyediakan fitur deteksi konten AI.
Catatan: angka-angka di atas berasal dari pemetaan dan riset Mafindo serta liputan media yang merangkum temuan Mafindo dan pernyataan pejabat terkait.
Mengapa tren ini muncul?
1. Ketersediaan alat AI yang mudah diakses
Alat generative AI dan aplikasi pembuatan deepfake kini tersedia secara komersial dan kadang gratis, yang menurunkan ambang teknis untuk pembuatan konten palsu. Akibatnya, aktor jahat maupun pembuat konten amatir bisa memproduksi materi yang meyakinkan.
2. Insentif politik dan ekonomi
Deepfake yang menyasar tokoh publik, perusahaan atau lembaga negara bisa dipakai untuk mempengaruhi opini publik, menimbulkan kebingungan, atau mengeksekusi skema penipuan (scam). Laporan Mafindo menunjukkan peningkatan kasus yang terkait tema politik dan penipuan terhadap entitas besar.
3. Kesenjangan literasi digital
Sebagian besar pengguna belum terbiasa mengecek sumber, tanda-tanda manipulasi video/audio, atau memanfaatkan alat verifikasi sehingga penyebaran cepat terjadi. Mafindo dan lembaga pemerintah menyerukan peningkatan literasi digital.
Dampak terhadap industri, masyarakat, dan perilaku pengguna
- Industri media & platform digital: Beban verifikasi meningkat, redaksi dan platform harus menambah kapabilitas fact-checking dan teknologi deteksi. Tekanan regulasi juga meningkat (permintaan fitur cek konten AI).
- Kepercayaan publik: Peningkatan deepfake berpotensi mengikis kepercayaan publik terhadap berita, tokoh publik, dan institusi, sehingga menimbulkan polarisasi dan skeptisisme masif. Mafindo menekankan dampak tersebut dalam pemetaan hoaks.
- Korban langsung (personal & ekonomi): Deepfake suara/video dipakai untuk penipuan (scam), bisa merugikan individu dan perusahaan secara finansial serta reputasi. Laporan menyebut scam sebagai salah satu tren yang mengiringi deepfake.
Prediksi jangka pendek & jangka panjang:
1. Jangka pendek (6–18 bulan)
Kita kemungkinan masih melihat peningkatan jumlah kasus deepfake yang menargetkan momen-momen sensitif (peristiwa politik, krisis sosial) serta upaya scam yang semakin canggih. Respon akan berfokus pada penguatan literasi digital, kerja sama platform, dan alat deteksi awal.
2. Jangka panjang (2–5 tahun)
Jika tidak ada langkah sistematis — kombinasi regulasi, teknologi deteksi skala besar, dan pendidikan publik — deepfake bisa menjadi elemen rutin dalam perang informasi. Alternatifnya, kolaborasi global platform + adopsi standar metadata (mis. watermarking konten AI) dan penyebaran alat verifikasi publik dapat menahan laju penyalahgunaan.
Rekomendasi Singkat
- Percepat literasi digital massal: kurikulum sekolah, kampanye publik, dan pelatihan untuk jurnalis.
- Platform harus sediakan alat verifikasi: fitur yang dapat mendeteksi/menandai konten yang dihasilkan AI (akses publik).
- Kolaborasi multi-pihak: Mafindo, pemerintah, platform, dan komunitas riset AI perlu bersinergi untuk deteksi, mitigasi, dan kebijakan.
Mafindo memetakan 1.593 hoaks dalam periode yang dilaporkan, ~12,7% di antaranya terkait manipulasi (deepfake/AI). Deepfake dan scam menjadi bagian signifikan dari lanskap disinformasi terbaru, dengan potensi dampak besar pada politik, kepercayaan publik, dan kerugian ekonomi.
Tindakan yang disarankan adalah literasi digital skala nasional, menyediakan fitur deteksi di platform, dan kolaborasi lintas sektor.
Penutup
Tren hoaks & deepfake meningkat menurut Mafindo bukan sekadar headline, ini sinyal bahwa lanskap informasi kita sedang mengalami transformasi teknis dari masalah verifikasi menjadi masalah infrastruktur sosial-teknologi. Menangkal gelombang deepfake membutuhkan kombinasi teknologi, kebijakan, dan yang paling penting adalah warga digital yang teredukasi. Jika aksi kolektif terlaksana sekarang, kita masih punya peluang menahan eskalasi dampak negatif sebelum menjadi norma publik.
Bagaimana Menurut Anda?