Gawat! Internet Watch Foundation Temukan Hampir 3.000 Gambar Pelecehan Buatan AI

JawaPos.com  - Lembaga pengawas keamanan telah memperingatkan gambar pelecehan seksual terhadap anak yang dihasilkan oleh kecerdasan buatan (AI) yang menjadi kenyataan dan mengancam akan membanjiri internet.

Dilansir dari The Guardian, Internet Watch Foundation (IWF) mengatakan telah menemukan hampir 3.000 gambar pelecehan buatan AI yang melanggar hukum di Inggris.

Organisasi yang berbasis di Inggris ini mengatakan gambar-gambar korban pelecehan di kehidupan nyata sedang dibangun ke dalam model AI, yang kemudian menghasilkan gambaran baru tentang mereka.

Ia menambahkan bahwa teknologi tersebut juga digunakan untuk membuat gambar selebriti yang telah dihilangkan usianya dan kemudian digambarkan sebagai anak-anak dalam skenario pelecehan seksual.

Contoh lain dari materi pelecehan seksual terhadap anak (CSAM) termasuk penggunaan alat AI untuk “nudify” gambar anak-anak berpakaian yang ditemukan secara online.

Baca Juga: Serba Mudah, Adobe Siapkan Teknologi Terbaru Pengeditan Foto Berbasis AI

IWF telah memperingatkan pada musim panas bahwa bukti penyalahgunaan yang disebabkan oleh AI mulai muncul.

Susie Hargreaves sebagai kepala eksekutif IWF, mengatakan tentang mimpi buruk terburuk telah menjadi kenyataan.

“Awal tahun ini, kami memperingatkan bahwa gambar-gambar AI akan segera menjadi tidak dapat dibedakan dari gambar-gambar nyata dari anak-anak yang mengalami pelecehan seksual,” tambah Susie.

Susie Hargreaves juga mengungkapkan bahwa anak-anak yang pernah diperkosa di masa lalu kini dimasukkan ke dalam skenario baru.

Mereka menyelidiki 11.108 gambar di forum tersebut, dengan 2.978 di antaranya melanggar hukum Inggris dengan menggambarkan pelecehan seksual terhadap anak-anak.

IWF mengatakan pihaknya juga telah melihat bukti gambar yang dihasilkan AI dijual secara online, temuan terbarunya didasarkan pada penyelidikan selama sebulan terhadap forum pelecehan anak di web gelap, bagian dari internet yang hanya dapat diakses dengan browser khusus.

***