TEKNOBUZZ — Perkembangan kecerdasan buatan (AI) membawa banyak manfaat, namun di sisi lain menghadirkan ancaman serius terhadap keamanan digital dan martabat manusia. Salah satu yang menjadi sorotan adalah kemampuan AI generatif seperti chatbot Grok di platfrom X yang dapat memanipulasi foto menjadi konten vulgar tanpa persetujuan pemiliknya.
Belum lama ini, kecerdasan buatan Grok AI pada platform X disalahgunakan oleh oknum tidak bertanggung jawab untuk manipulasi foto pribadi yang bersifat sensitif tanpa persetujuan pemiliknya. Parahnya, Grok AI digunakan untuk memproduksi dan menyebarkan konten asusila dari hasil manipulasi foto tersebut di platform X.
Untuk mengatasi hal tersebut, Kementerian Komunikasi dan Digital (Kemkomdigi) menindaklanjuti dugaan penyalahgunaan fitur kecerdasan buatan Grok AI pada platform X yang dimanfaatkan untuk memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi yang bersifat sensitif tanpa persetujuan pemiliknya.
Sebelumnya, Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar dalam keterangan resminya, menyampaikan bahwa hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto nyata warga Indonesia.
Kondisi tersebut berpotensi melanggar hak privasi dan hak atas citra diri (right to one’s image), khususnya ketika foto seseorang dimanipulasi atau disebarluaskan tanpa persetujuan yang sah.
Menanggapi hal tersebut, Ketua dan Pendiri Indonesia Cyber Security Forum (ICSF), Ardi Sutedja, menegaskan bahwa fenomena ini bukan sekadar isu teknologi, melainkan persoalan perlindungan hak asasi manusia di ruang digital.
“Kemampuan AI seperti Grok untuk memanipulasi foto menjadi konten vulgar bukan hanya masalah privasi individual. Ini adalah ancaman terhadap stabilitas sosial dan keamanan nasional,” ujar Ardi Sutedja kepada TEKNOBUZZ ID.
Baca juga: Komdigi Tindak Lanjuti Penyalahgunaan Konten Grok AI di X
Potret Kerentanan Digital Indonesia
Indonesia dengan 212 juta pengguna internet merupakan pasar digital yang sangat besar dan menggiurkan. Namun, di balik angka impresif tersebut tersimpan kerentanan yang mengkhawatirkan.
Berdasarkan hasil Survei Asosiasi Penyelenggara Jasa Internet Indonesia (APJII) menunjukkan bahwa 64% pengguna internet di Indonesia belum memahami risiko keamanan digital secara komprehensif. Kondisi ini diperparah dengan minimnya edukasi tentang bahaya manipulasi konten berbasis AI.
“Kasus-kasus penyebaran foto dan video manipulatif sudah mulai bermunculan di berbagai daerah di Indonesia. Di Jawa Timur, seorang mahasiswi menjadi korban penyebaran foto hasil manipulasi AI yang membuatnya tampak telanjang. Di Jakarta, seorang eksekutif muda mengalami pemerasan setelah wajahnya diedit ke dalam video berkonten dewasa. Kasus-kasus ini hanyalah puncak gunung es dari potensi masalah yang jauh lebih besar dengan hadirnya teknologi seperti Grok,” ungkap Ardi.
Menurut Ardi, kondisi ini diperparah oleh kurangnya pemahaman publik tentang risiko AI generatif.
“Banyak orang belum menyadari bahwa foto biasa yang diunggah ke media sosial bisa disalahgunakan dengan teknologi AI yang semakin mudah diakses,” ucapnya.
Celah Hukum dan Tantangan Regulasi
Menurut Ardi, UU Perlindungan Data Pribadi (PDP) yang telah disahkan pada September 2022 seharusnya menjadi benteng pertahanan kita.
“Namun, hampir dua tahun berlalu, peraturan pelaksanaannya masih belum juga rampung. Celah ini menciptakan zona abu-abu yang dimanfaatkan oleh pihak tidak bertanggung jawab untuk melakukan kejahatan digital,” kata Ardi.
Menurut Ardi, ketiadaan aturan teknis membuat penegakan hukum terhadap penyalahgunaan AI seperti Grok menjadi sulit.
“Pasal 26 UU PDP memang menyebutkan tentang hak subjek data untuk tidak menjadi objek profiling yang menimbulkan dampak diskriminasi. Namun, tanpa peraturan pelaksanaan yang jelas, bagaimana cara menerapkan pasal ini terhadap kasus manipulasi foto oleh AI,” jelas Ardi.
Regulasi dan Etika sebagai Kunci
Untuk mengatasi hal tersebut, Ardi menyarankan Pemerintah RI untuk segera menyelesaikan peraturan pelaksanaan UU PDP, dengan aturan sebagai berikut.
1. Kewajiban pengembang AI untuk menerapkan filter konten otomatis yang mencegah penyalahgunaan.
2. Mekanisme persetujuan eksplisit dari pemilik foto sebelum diproses oleh AI.
3. Transparansi algoritma AI yang bisa diaudit oleh lembaga independen.
4. Sanksi tegas bagi penyalahguna teknologi AI untuk tujuan merendahkan martabat orang lain.
5. Mekanisme pelaporan dan penghapusan cepat untuk konten hasil manipulasi AI.
6. Pembentukan satuan tugas khusus lintas kementerian untuk menangani kasus penyalahgunaan AI.
7. Standar keamanan minimum yang harus dipenuhi oleh setiap platform AI yang beroperasi di Indonesia.
8. Kewajiban notifikasi kepada pengguna ketika foto mereka diproses oleh sistem AI.
9. Sistem verifikasi usia yang ketat untuk mengakses fitur AI yang berpotensi disalahgunakan.
“Regulasi ini harus bersifat antisipatif, bukan reaktif. Kita tidak bisa menunggu hingga ribuan korban berjatuhan sebelum bertindak. Negara-negara seperti Uni Eropa dengan Digital Services Act-nya telah menunjukkan bahwa regulasi yang komprehensif terhadap teknologi AI adalah mungkin dan diperlukan,” papar Ardi.
Literasi Digital sebagai Benteng Pertama
Selain regulasi, edukasi publik menjadi kunci utama. Masyarakat perlu dibekali kemampuan mengenali konten manipulatif, melindungi data pribadi, dan memahami hak-hak digitalnya.
“Perkembangan AI seperti Grok bisa menjadi berkah atau bencana. Masa depan digital Indonesia yang aman dan bermartabat sangat ditentukan oleh langkah nyata hari ini dari regulasi, tanggung jawab platform, hingga kesadaran kolektif masyarakat,” tutup Ardi.
