Kontroversi AI Asusila Grok, X Umumkan Pembatasan Usai Diblokir Indonesia

Ilustrasi pengguna AI Grok. (Dhimas Ginanjar/Dall E/JawaPos.com)

JawaPos.com - Kontroversi kecerdasan buatan kembali memicu kegaduhan global. Sorotan kali ini mengarah ke Grok, AI milik X, yang dituding bisa dimanfaatkan untuk pornografi berbasis AI.

Fitur pembuatan dan pengeditan gambar Grok menuai kecaman luas. AI tersebut dinilai membuka ruang manipulasi foto orang nyata menjadi konten seksual tanpa persetujuan.

Gelombang protes datang dari berbagai negara. Isunya bukan sekadar teknologi, melainkan perlindungan korban, privasi, dan eksploitasi seksual digital.

Indonesia termasuk yang bereaksi cepat. Pemerintah melalui Komdigi memblokir akses Grok karena dianggap berisiko melanggar hukum dan norma.

Langkah tegas itu menjadi bagian dari tekanan global terhadap X. Pada 15 Januari pagi waktu Indonesia, X akhirnya mengumumkan pembatasan resmi terhadap Grok.

Melalui akun keselamatan platformnya, X menegaskan komitmen menjaga keamanan pengguna. Perusahaan menyatakan menerapkan nol toleransi terhadap eksploitasi seksual anak, ketelanjangan tanpa persetujuan, dan konten seksual yang tidak diinginkan.

X menyebut akan menghapus konten pelanggaran prioritas tinggi. Termasuk di dalamnya materi kekerasan seksual terhadap anak dan konten seksual non-konsensual.

Platform tersebut juga menegaskan akan menindak akun pelanggar. Akun yang terindikasi mencari materi eksploitasi seksual anak akan dilaporkan ke aparat penegak hukum.

Dalam pembaruan kebijakannya, X mengumumkan penerapan langkah teknologi baru pada akun Grok. Akun tersebut kini tidak lagi diizinkan mengedit gambar orang nyata dengan pakaian terbuka seperti bikini.

Pembatasan ini berlaku untuk semua pengguna. Tidak ada pengecualian, termasuk bagi pelanggan berbayar.

Selain itu, pembuatan dan pengeditan gambar melalui akun Grok di X kini hanya tersedia bagi pelanggan berbayar. X menyebut kebijakan ini sebagai lapisan perlindungan tambahan agar penyalahgunaan bisa ditelusuri.

X juga menerapkan pemblokiran berbasis wilayah atau geoblock. Pengguna di negara yang melarang konten semacam itu tidak bisa membuat gambar orang nyata dengan bikini, pakaian dalam, atau busana sejenis.

Bagi Indonesia, kebijakan ini dinilai relevan dengan alasan pemblokiran Grok. Komdigi sebelumnya menilai moderasi Grok belum memadai untuk mencegah pornografi dan pelanggaran privasi.

Pemerintah Indonesia juga menegaskan pemblokiran bersifat sementara. Akses baru bisa dibuka jika platform menunjukkan perbaikan nyata dan perlindungan pengguna yang efektif.