Jakarta – xAI, perusahaan AI milik Elon Musk, membatasi akses fitur chatbot Grok setelah gelombang kritik global terkait kemampuan "digital undressing" gambar, termasuk anak-anak. Keputusan ini memicu perdebatan tentang etika, keamanan anak, dan tanggung jawab platform teknologi.
Fitur pembuatan gambar Grok kini eksklusif bagi pelanggan X berbayar. CNN melaporkan perubahan ini terjadi antara Kamis dan Jumat lalu. Akun resmi Grok di X merespons pengguna non-pelanggan dengan menyatakan fitur itu terbatas untuk pelanggan berbayar.
Namun, fitur "edit image" pada gambar yang diunggah ke X tetap dapat digunakan semua pengguna dengan bantuan Grok. Pembuatan gambar dan video tetap gratis melalui situs web dan aplikasi mandiri Grok. Pembatasan hanya berlaku saat pengguna menandai Grok dalam unggahan publik di X dan meminta pembuatan gambar secara terbuka.
Beberapa minggu sebelum kontroversi, Musk dikabarkan kecewa terkait sistem pengaman keamanan Grok Imagine dalam rapat internal xAI. Pada periode yang sama, tiga anggota inti tim keselamatan xAI, termasuk kepala keamanan produk, mengundurkan diri. Kondisi ini menimbulkan pertanyaan tentang kesiapan sistem keamanan AI Grok.
Kekhawatiran juga datang dari regulator dunia. Otoritas dan pejabat di Inggris, Uni Eropa, Malaysia, dan India menyuarakan keprihatinan terkait perlindungan Grok dan perannya dalam memfasilitasi pornografi deepfake.
Juru bicara Perdana Menteri Inggris Keir Starmer mengkritik langkah X tersebut. Ia menilai keputusan itu hanya mengubah fitur AI yang memungkinkan pembuatan gambar ilegal menjadi layanan premium.
