Marak Manipulasi Foto Asusila Pakai Grok AI, Polri Ingatkan Ancaman Pidana

JawaPos.com - Belakangan ini manipulasi foto asusila menggunakan Grok AI di platform media sosial X marak bermunculan. Atas tindakan warganet itu, Bareskrim Polri mengingatkan potensi jerat pidana terhadap pelaku yang memerintahkan manipulasi foto asusila tersebut.

Untuk itu, Bareskrim mengingatkan warganet dan masyarakat luas agar tidak sembarangan memberikan perintah kepada Grok AI untuk melakukan manipulasi foto asusila. Apalagi bila perintah diberikan tanpa persetujuan figur atau pribadi yang foto dirinya dimanipulasi.

”Memang perkembangan teknologi itu sekarang mengarah kepada Artificial Intelligence (AI), termasuk deepfake itu menggunakan AI. Karena itu, memang kami sedang melakukan penyelidikan ke arah sana,” ungkap Direktur Tindak Pidana Siber (Dittipid Siber) Bareskrim Polri Brigjen Pol Himawan Bayu Aji kepada awak media di Jakarta.

Jenderal bintang satu Polri itu menegaskan bahwa bila terbukti ada manipulasi data elektronik berupa foto yang diubah menggunakan AI tanpa persetujuan sosok dalam foto tersebut, polisi bisa mengambil langkah hukum dan melaksanakan proses pidana.

”Selama bisa diklarifikasi bahwa itu adalah manipulasi data elektronik, maka itu menjadi suatu hal yang (dapat) dipidana,” kata dia tegas.

Berdasar unggahan pada akun media sosial resmi @CCICPolri, sudah disampaikan bahwa tindakan manipulasi foto yang ramai dilakukan oleh warganet dengan mengandalkan Grok AI tengah didalami. Pengelola akun itu juga meminta masyarakat segera melapor bila ada hal-hal yang perlu ditindaklanjuti.

”Kami akan melakukan pendalaman dan penyelidikan terhadap kasus yang dimaksud. Jika ada informasi lain yang perlu kami tindak lanjuti silakan menghubungi kami melalui patrolisiber.id,” unggah akun tersebut.

Tidak hanya itu, Kementerian Komunikasi dan Digital (Komdigi) juga sudah siap mengambil langkah tegas terhadap Grok AI dan X. Yakni dengan memberikan sanksi administratif hingga pemutusan akses jika tidak patuh dan kooperatif terhadap aturan yang berlaku di Indonesia.

Langkah tegas tersebut disiapkan menyusul maraknya penyalahgunaan Grok AI pada platform media sosial X. Termasuk diantaranya manipulasi foto pribadi tanpa persetujuan pemilik foto dan sosok dalam foto tersebut. Khususnya manipulasi foto menjadi konten bermuatan asusila.