Jakarta – Kementerian Komunikasi dan Informatika (Kemkominfo) mengambil tindakan tegas terhadap kecerdasan buatan (AI) Grok di platform X, terkait dugaan penyalahgunaan yang memproduksi konten asusila, termasuk manipulasi foto pribadi tanpa izin.
Kemkominfo menemukan indikasi bahwa Grok AI belum memiliki pengaturan memadai untuk mencegah pembuatan dan penyebaran konten pornografi yang menggunakan foto warga Indonesia.
Direktur Jenderal Pengawasan Ruang Digital Kemkominfo, Alexander Sabar, pada Rabu (7/1/2026) menyatakan, "Temuan awal menunjukkan belum ada pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi."
Menurutnya, kondisi ini berpotensi melanggar hak privasi dan hak atas citra diri. Manipulasi digital terhadap foto pribadi bukan hanya masalah kesusilaan, tetapi juga perampasan kendali individu atas identitas visual, yang dapat menimbulkan kerugian psikologis, sosial, dan reputasi.
Kemkominfo kini berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE) untuk memastikan mekanisme perlindungan yang efektif, meliputi penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila, serta prosedur penanganan cepat atas laporan pelanggaran privasi dan hak citra diri.
Alexander Sabar menegaskan, "Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang."
Kemkominfo mengingatkan seluruh PSE yang beroperasi di Indonesia untuk patuh terhadap peraturan perundang-undangan. Sanksi administratif hingga pemutusan akses layanan Grok AI dan platform X dapat dijatuhkan jika ditemukan ketidakpatuhan.
Penyedia layanan AI maupun pengguna yang terbukti memproduksi dan/atau menyebarkan konten pornografi atau manipulasi citra pribadi tanpa hak dapat dikenakan sanksi administratif dan/atau pidana sesuai hukum yang berlaku.
Alexander Sabar menjelaskan, sejak berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) pada 2 Januari 2026, konten pornografi diatur antara lain dalam Pasal 172 dan Pasal 407.
