Deepfake AI Tak Senonoh Taylor Swift Banjiri Media Sosial X, Tuai Kecaman dari Berbagai Pihak

JawaPos.com – Belum lama ini jagat media sosial X atau yang dahulu dikenal sebagai Twitter dihebohkan dengan kemunculan konten tak senonoh milik salah satu musisi ternama Taylor Swift.

Dilansir dari The Verge, kata kunci ‘Taylor Swift AI’ sempat menjadi trending topic di beberapa negara karena adanya salah satu unggahan yang mendapat banyak atensi.

Unggahan tersebut berupa konten deepfake Taylor Swift yang dibuat menggunakan teknologi Artificial Intelligence (AI) dan telah ditonton lebih dari 45 juta kali di media sosial X itu.

Kiriman tersebut sempat bertahan selama 17 jam sebelum pihak dari media sosial milik Elon Musk tersebut mengambil tindakan untuk melakukan ban pada akun tersebut.

Walaupun begitu, konten yang dibuat dengan memanfaatkan teknologi AI tersebut telah tersebar dan diunggah ulang oleh akun-akun lainnya.

Sementara itu, dikutip dari 404 Media, konten tak senonoh itu berasal dari salah satu kelompok di media sosial berbasis obrolan yakni Telegram.

Kelompok tersebut diduga menggunakan salah satu fitur milik Microsoft yakni Microsoft Text-to-Image AI Generator.

Akun resmi komite keamanan X yang gunakan username @Safety langsung memberikan pernyataan resmi pada pengguna terkait konten yang terlanjur viral tersebut.

“Mengunggah konten sensual tanpa consent sangat dilarang di platform X. Kami akan terus menghapus dan menghukum akun-akun yang bertanggung jawab,” tulis mereka.

Sementara itu berdasarkan laporan dari The Telegraph, induk perusahaan Facebook dan Instagram yakni Meta juga mencegah konten tersebut untuk menyebar di media sosial milik mereka.

“Konten tersebut melanggar peraturan sehingga harus kami hapus dari platform ini,” tulis pemilik dua raksasa media sosial tersebut.

Mereka juga akan melakukan ban pada akun-akun yang mencoba mengunggah konten tak senonoh itu di platform itu.

Tuai Kecaman Berbagai Pihak

Swifties, sebutan penggemar dari musisi yang mempopulerkan lagu 22 dan Love Story tersebut menyerang balik dengan menggunakan frasa ‘Protect Taylor Swift’.

Dikutip dari Sportsskeeda, tujuan mereka melakukan hal tersebut untuk memberikan atensi pada dunia bahwa konten misinformasi yang dihasilkan dengan teknologi AI sangat berbahaya.