TEKNOBUZZ – Fenomena konten palsu berbasis kecerdasan buatan (AI) atau deepfake terus meningkat tajam. Berdasarkan laporan terbaru dari Data Sensity AI, deepfake terus melonjak hingga 550% dalam lima tahun terakhir, sehingga menimbulkan kekhawatiran serius terhadap dampak hoaks digital di Indonesia.
Wakil Menteri Komunikasi dan Digital (Kemkomdigi), Nezar Patria merasa khawatir dengan meningkatnya deepfake tersebut.
“Saya yakin jumlahnya jauh lebih besar karena kemampuan aplikasi untuk membuat video atau foto deepfake kini sangat masif,” ujar Nezar seperti diberitakan situs Komdigi.
Untuk itu, Nezar menegaskan pentingnya langkah cepat dari platform digital global.
“Kita berharap platform media sosial global juga bisa melakukan filter, atau setidaknya menyediakan fitur untuk mengecek apakah sebuah konten buatan AI atau bukan. Fitur ini sebaiknya bisa digunakan publik secara gratis,” jelasnya.
Nezar menyebutkan bahwa platform memiliki teknologi komputasi dan algoritma yang dapat dimanfaatkan untuk kepentingan publik.
“Kalau kita meragukan satu isi konten, bisa dicek dengan kekuatan komputasi dan AI yang mereka punya. Misalnya di Meta atau Google, fitur seperti ini bisa jadi bagian layanan standar,” ungkapnya.
Nezar menekankan, Pemerintah Republik Indonesia (RI) berupaya menyeimbangkan inovasi dengan regulasi agar pemanfaatan AI tidak disalahgunakan sebagai alat pembuat konten hoaks. Mengingat, Indonesia sudah memiliki perangkat hukum seperti UU ITE, UU PDP, PP TUNAS, dan sejumlah peraturan teknis.
Baca juga: Komdigi Berkomitmen Ciptakan Ruang Digital Aman Bagi Masyarakat!
Saat ini, pemerintah juga menyiapkan regulasi khusus pemanfaatan AI yang etis, bermakna, dan bertanggung jawab. Selain regulasi, Kementerian Komdigi juga menggandeng ekosistem luas, termasuk Mafindo dan media, dalam program cek fakta.
“Ruang digital ini milik kita bersama, maka kita perlu kerja sama yang erat untuk menjaga publik dari hoaks dan konten negatif,” tegas Nezar Patria.
Ketua Mafindo (Masyarakat Anti Fitnah Indonesia), Septiaji Eko Nugroho menyatakan fenomena deepfake pertama kali muncul di Indonesia pada tahun 2023 dan semakin berkembang pesat saat ini.
Konten deepfake kerap disalahgunakan untuk melakukan penipuan digital dan menggiring opini publik, terutama pada isu-isu politik.
“Untuk isu politik juga ada tapi deepfake paling banyak digunakan untuk penipuan digital. Kalau ada konten hoaks bentuknya video yang muncul di tahun 2025 dengan tema penipuan digital, itu mayoritas adalah deepfake,” papar Septiaji.
Septiaji menegaskan Mafindo (Masyarakat Anti Fitnah Indonesia) akan terus bekerja sama dengan Kementerian Komdigi, media, dan komunitas pegiat literasi lainnya melakukan pengecekan fakta terhadap konten-konten hoaks, termasuk deepfake, yang beredar di internet.
Dengan kerja sama pemerintah, media, dan komunitas literasi digital, diharapkan ruang digital Indonesia dapat lebih aman dari ancaman deepfake, hoaks dan manipulasi konten AI.
