studiopena.com, Jakarta – Kementerian Komunikasi dan Digital (Komdigi) menindaklanjuti dugaan penyalahgunaan fitur kecerdasan buatan (AI) Grok AI di
Direktur Jenderal Pengawasan Ruang Digital Kementerian Komunikasi dan Teknologi Alexander Sabar mengatakan berdasarkan penyelidikan awal, Grok AI belum memiliki sistem keamanan yang memadai.
Menurutnya, tidak adanya aturan tegas untuk mencegah konten pornografi berdasarkan foto WNI berisiko melanggar privasi dan hak citra diri.
Temuan awal menunjukkan bahwa tidak ada peraturan khusus di Grok AI untuk mencegah penggunaan teknologi ini dalam pembuatan dan distribusi konten pornografi berbasis foto pribadi, kata Alexander dalam keterangannya, Rabu (7/1/2026).
Komdigi menegaskan, manipulasi digital terhadap foto pribadi bukan sekadar pelanggaran kesusilaan, melainkan bentuk perampasan identitas visual yang berdampak buruk pada psikologi dan reputasi korban.
Sebagai langkah tegas, Komdigi berkoordinasi dengan Penyelenggara Sistem Elektronik (PSE) termasuk platform X untuk memperkuat moderasi konten dan mempercepat penanganan laporan pelanggaran.
Alexander mengingatkan, kepatuhan terhadap hukum Indonesia merupakan kewajiban mutlak bagi seluruh PSE yang beroperasi di Tanah Air.
“Jika ditemukan ketidakpatuhan atau perilaku tidak kooperatif, Komdigi dapat memberikan sanksi administratif hingga penghentian akses (pemblokiran) layanan Grok AI dan platform X,” kata Alexander.