Jakarta – Platform media sosial X berkomitmen memberantas penyalahgunaan kecerdasan buatan (AI) Grok dalam pembuatan konten pornografi. Janji ini disampaikan usai pertemuan dengan Kementerian Komunikasi dan Informatika (Kemkominfo), Selasa (13/1/2026).
Kemkominfo sebelumnya memanggil X untuk mengklarifikasi potensi penyalahgunaan fitur AI Grok. Direktur Jenderal Pengawasan Ruang Digital Kemkominfo, Alexander Sabar, menegaskan X berjanji akan patuh terhadap hukum yang berlaku di Indonesia.
X juga berjanji meningkatkan perlindungan terhadap perempuan dan anak-anak di platform mereka. "Mereka akan memastikan fitur AI Grok tidak digunakan untuk menghasilkan konten pornografi," kata Alexander.
X akan menindak tegas akun-akun yang melanggar kebijakan dan peraturan perundang-undangan. Kemkominfo akan terus memantau dan mengevaluasi komitmen X untuk memastikan perlindungan ruang digital berjalan efektif dan berkelanjutan.
Alexander menegaskan, setiap Penyelenggara Sistem Elektronik (PSE) wajib mematuhi peraturan perundang-undangan yang berlaku. Kewajiban tersebut mencakup pendaftaran, moderasi konten, dan respons cepat terhadap perintah pemutusan akses konten terlarang.
"Apabila ditemukan pelanggaran, kami berwenang menjatuhkan sanksi administratif hingga pemutusan akses layanan," tegas Alexander. Kemkominfo aktif mengawasi dan berkoordinasi dengan aparat penegak hukum untuk mencegah penyalahgunaan teknologi AI.
"Penyedia layanan maupun pengguna yang terbukti memproduksi dan/atau menyebarkan konten pornografi dapat dikenakan sanksi administratif dan/atau pidana," jelasnya.
Sebelumnya, Kemkominfo sempat memutus akses sementara aplikasi chatbot AI Grok untuk menjaga keamanan dan etika di ruang digital. Praktik deepfake bermuatan seksual tanpa persetujuan dianggap sebagai pelanggaran serius terhadap hak asasi manusia.
Grok menuai kritik karena memungkinkan pengguna membuat gambar berbau pornografi.
