Grok Dituding Jadi Mesin Asusila, X Umumkan Pembatasan Ketat dan GeoBlock

xAI menggalang pendanaan Seri E senilai Rp 335 triliun dari investor besar termasuk Nvidia, Fidelity, dan Valor Equity Partners, di tengah kontroversi Grok.

JawaPos.com - Kontroversi kecerdasan buatan kembali memanas di berbagai negara. Kali ini, sorotan tertuju pada Grok, AI milik X, yang dituding bisa disalahgunakan untuk konten pornografi dengan mudah.

Fitur pembuatan dan pengeditan gambar Grok memicu kemarahan publik. AI ini dinilai membuka celah manipulasi foto orang nyata menjadi tampilan seksual tanpa izin.

Protes pun bermunculan dari berbagai belahan dunia. Pemerintah, aktivis digital, hingga lembaga perlindungan anak menilai risikonya terlalu besar jika dibiarkan.

Indonesia menjadi salah satu negara yang mengambil langkah tegas. Pemerintah memblokir akses Grok karena dinilai berpotensi memfasilitasi pornografi dan pelanggaran privasi.

Tekanan global akhirnya memaksa X merespons secara resmi. Pada 15 Januari pagi waktu Indonesia, perusahaan itu mengumumkan pembatasan besar terhadap fitur Grok.

Melalui akun keselamatan platformnya, X menegaskan komitmen menjaga keamanan pengguna. Perusahaan menyatakan menerapkan nol toleransi terhadap eksploitasi seksual anak, ketelanjangan tanpa persetujuan, dan konten seksual yang tidak diinginkan. Berikut pengumuman resminya:

Pembaruan Pembuatan Gambar Akun @Grok

Komitmen Keamanan

Kami tetap berkomitmen menjadikan X sebagai platform yang aman untuk semua orang dan menerapkan nol toleransi terhadap segala bentuk eksploitasi seksual anak, ketelanjangan tanpa persetujuan, serta konten seksual yang tidak diinginkan.

Kami secara aktif mengambil tindakan untuk menghapus konten pelanggaran prioritas tinggi, termasuk Materi Kekerasan Seksual terhadap Anak (CSAM) dan ketelanjangan tanpa persetujuan, serta memberikan sanksi yang sesuai terhadap akun yang melanggar Aturan X.
Kami juga melaporkan akun yang mencari materi eksploitasi seksual anak kepada aparat penegak hukum jika diperlukan.

Pembaruan pada Akun @Grok

Kami telah menerapkan langkah-langkah teknologi untuk mencegah akun Grok mengedit gambar orang nyata yang menampilkan pakaian terbuka, seperti bikini.
Pembatasan ini berlaku untuk semua pengguna, termasuk pelanggan berbayar.

Selain itu, pembuatan gambar dan kemampuan mengedit gambar melalui akun Grok di platform X kini hanya tersedia bagi pelanggan berbayar.

Langkah ini menambah lapisan perlindungan ekstra dengan membantu memastikan bahwa individu yang mencoba menyalahgunakan akun Grok untuk melanggar hukum atau kebijakan kami dapat dimintai pertanggungjawaban.

Pembaruan Geoblock

Kami kini menerapkan pemblokiran berbasis wilayah (geoblock) terhadap kemampuan semua pengguna untuk menghasilkan gambar orang nyata yang mengenakan bikini, pakaian dalam, dan busana sejenis melalui akun Grok maupun Grok di X, di yurisdiksi yang melarangnya secara hukum.

Aturan X

Kebijakan ini tidak mengubah protokol keamanan yang sudah ada, yaitu bahwa semua prompt AI dan konten yang dihasilkan dan diposting di X harus sepenuhnya mematuhi Aturan X.

Terlepas dari bagaimana konten dibuat, atau apakah pengguna merupakan pelanggan gratis maupun berbayar, tim Keamanan kami bekerja tanpa henti untuk: