Jakarta – Pemerintah Indonesia mengambil tindakan tegas dengan membekukan sementara akses terhadap aplikasi Grok. Kementerian Komunikasi dan Informatika (Kominfo) melakukan pemblokiran ini sebagai langkah perlindungan terhadap masyarakat dari potensi penyalahgunaan teknologi kecerdasan buatan (AI).
Kominfo menyatakan bahwa pemblokiran ini bertujuan untuk melindungi masyarakat dari pembuatan konten pornografi palsu. Meutya Hafid selaku Menteri Kominfo menegaskan keseriusan pemerintah dalam menanggapi praktik deepfake seksual nonkonsensual.
Praktik tersebut dinilai melanggar hak asasi manusia, martabat, serta keamanan warga negara di dunia digital. Kominfo juga telah meminta Platform X untuk segera memberikan klarifikasi terkait dampak negatif dari penggunaan Grok.
Pemblokiran ini didasarkan pada Peraturan Menteri Kominfo Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat. Pasal 9 peraturan tersebut mewajibkan setiap penyelenggara sistem elektronik (PSE) untuk memastikan bahwa sistem elektronik yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik yang dilarang.
Kominfo sebelumnya menindaklanjuti laporan mengenai penyalahgunaan fitur AI Grok di platform X. Fitur ini diduga digunakan untuk memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi tanpa izin.
Grok AI dinilai belum memiliki pengaturan yang memadai untuk mencegah produksi dan distribusi konten pornografi berbasis foto nyata warga Indonesia. Hal ini berpotensi melanggar hak privasi dan hak atas citra diri.
Kominfo mengimbau masyarakat yang menjadi korban manipulasi foto, deepfake asusila, atau pelanggaran hak citra diri untuk menempuh jalur hukum. Korban dapat melaporkan kejadian tersebut kepada aparat penegak hukum atau mengadu ke Kominfo.
