Meta Tindak 33,2 Juta Konten Eksploitasi Anak, Perkuat Deteksi dengan AI

JawaPos.com - Meta menindak 33,2 juta konten eksploitasi seksual anak di Facebook dan Instagram selama semester I 2026. Perusahaan juga memperkenalkan perangkat berbasis kecerdasan buatan (AI) untuk mendeteksi iklan dan akun yang diduga menjadi pintu masuk menuju materi pelecehan anak ilegal.

Seperti dilansir dari TechCrunch, Meta mengungkapkan, lebih dari 97 persen konten yang ditindak ditemukan melalui sistem internal sebelum dilaporkan pengguna. Di India, perusahaan menindak 5,3 juta konten serupa, dengan lebih dari 98 persen di antaranya terdeteksi sebelum adanya laporan pengguna.

Salah satu teknologi baru yang dikembangkan Meta menggunakan large language model (LLM) untuk mendeteksi praktik signposting. Istilah ini merujuk pada penggunaan iklan yang tampak tidak berbahaya untuk mengarahkan pengguna ke situs yang memuat konten ilegal atau aktivitas berbahaya.

Melalui teknologi tersebut, Meta tidak hanya memeriksa isi iklan, tetapi juga menelusuri tujuan tautan yang dicantumkan. Perusahaan dapat memblokir situs yang melanggar aturan sekaligus menindak akun yang terlibat.

Baca Juga:Pipa PDAM Putus Imbas Proyek Jembatan di Gunungsari, Sejumlah Wilayah di Surabaya Terdampak 

Meta juga menerapkan pemindaian tambahan berbasis AI untuk menemukan konten eksploitasi anak yang mungkin terlewat oleh sistem sebelumnya. Selain itu, perusahaan mengembangkan agen AI red-teaming untuk menguji sistem keamanannya sendiri dan mengidentifikasi celah yang berpotensi dimanfaatkan pelaku penyalahgunaan.

Perusahaan turut menyempurnakan sistem untuk mendeteksi pengguna yang kembali menggunakan akun baru setelah akun sebelumnya dihapus.

Upaya tersebut dilakukan di tengah tekanan hukum dan kritik terkait perlindungan anak di media sosial. Pada Agustus, Meta menyepakati pembayaran hingga USD 18 miliar untuk menyelesaikan gugatan yang berkaitan dengan keamanan anak dan melibatkan 29 negara bagian Amerika Serikat.

Sementara itu, pada September, WhatsApp menambahkan fitur kontrol orang tua yang memungkinkan pembatasan akses remaja terhadap Saluran (Channels), pengaturan privasi pembaruan status, serta pembatasan pihak yang dapat memasukkan anak ke grup. Orang tua juga dapat memilih menerima notifikasi mengenai aktivitas grup tertentu.