TEKNOBUZZ – Beberapa waktu lalu, kecerdasan buatan Grok AI pada platform X disalahgunakan oleh oknum tidak bertanggung jawab untuk manipulasi foto pribadi yang bersifat sensitif tanpa persetujuan pemiliknya. Parahnya, Grok AI digunakan untuk memproduksi dan menyebarkan konten asusila dari hasil manipulasi foto tersebut di platform X.
Berdasarkan pantauan Teknobuzz ID sendiri, manipulasi foto tersebut terjadi di Indonesia, yang dilakukan oleh oknum tidak bertanggung jawab di platform X. Sejumlah pengguna X di seluruh dunia, termasuk Indonesia pun ramai memperbincangkan hal tersebut. Kebanyakan dari mereka yang memiliki foto, merasa keberatan atas manipulasi foto tersebut untuk hal negatif.
Untuk mengatasi hal tersebut, Kementerian Komunikasi dan Digital (Kemkomdigi) telah menindaklanjuti dugaan penyalahgunaan fitur kecerdasan buatan Grok AI pada platform X yang dimanfaatkan untuk memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi yang bersifat sensitif tanpa persetujuan pemiliknya.
Beberapa waktu lalu, Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar dalam keterangan resminya, menegaskan bahwa Kemkomdigi telah berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE) untuk memastikan tersedianya mekanisme perlindungan yang efektif. Langkah tersebut mencakup penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila, serta prosedur penanganan cepat atas laporan pelanggaran privasi dan hak citra diri.
Kemkomdigi juga mengingatkan bahwa kewajiban kepatuhan terhadap peraturan perundang-undangan Indonesia melekat pada seluruh PSE yang beroperasi di wilayah Indonesia. Apabila ditemukan ketidakpatuhan atau sikap tidak kooperatif, Kemkomdigi dapat menjatuhkan sanksi administratif hingga pemutusan akses layanan Grok AI dan platform X.
Kemkomdigi menegaskan bahwa penyedia layanan kecerdasan buatan maupun pengguna yang terbukti memproduksi serta menyebarkan konten pornografi atau manipulasi citra pribadi tanpa hak dapat dikenakan sanksi administratif atau pidana sesuai ketentuan hukum yang berlaku.
Pemutusan Akses Sementara Grok AI
Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah Republik Indonesia melalui Kementerian Komunikasi dan Digital (Komdigi) kini melakukan pemutusan akses sementara terhadap platform Grok AI. Pernyataan ini disampaikan Komdigi melalui situs resminya.
“Pemerintah RI memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital. Komdigi juga telah meminta Platform X untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok,” ujar Meutya Hafid, Menteri Komunikasi dan Digital melalui keterangan resminya.
Tindakan pemutusan akses sementara Grok AI tersebut, dilakukan berdasarkan kewenangan Kementerian Komunikasi dan Digital. Ini sebagaimana diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat, khususnya Pasal 9. Peraturan tersebut mewajibkan setiap Penyelenggara Sistem Elektronik (PSE) memastikan sistem elektronik yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik dan dokumen elektronik yang dilarang.
