Waspada Bahaya Hoaks Deepfake AI, Kenali Ciri-cirinya, Jangan Gampang Terpancing

JawaPos.com - Belakangan ini marak video deepfake dari beberapa orang terkenal beredar di media sosial (medsos). Sayangnya, video yang beredar tersebut kebanyakan berisi konten meresahkan, hoaks, manipulatif dengan tujuan tertentu, misalnya presenter dan jurnalis Najwa Shihab bersama Rafi Ahmad dan Atta Halilintar yang mempromosikan judi online.

Hal tersebut hanya satu dari sekian contoh dampak video deepfake yang dibuat oleh kecerdasan buatan atau Artificial Intelligence (AI). Gambar-gambar tersebut dibuat secara artifisial dengan hampir kesempurnaan sedemikian rupa sehingga terlihat dan terdengar nyata seperti aslinya.

Perubahan bentuk dan aktivitas nakal semacam itu telah populer selama bertahun-tahun, namun hal tersebut dapat dideteksi dengan mata atau telinga yang waspada dan tentu saja dengan teknologi. Namun teknologi terbaik pun seringkali tidak mampu membedakan yang palsu dari yang asli jika dibuat dengan bantuan AI.

Baca Juga: Realisasi Investasi Tahun 2023 Capai Target Jokowi Tembus Rp 1.418,9 T, Bahlil Sindir Tom Lembong

Praktik tersebut mempunyai konsekuensi berbahaya karena dapat melanggar privasi individu dan menyebarkan informasi yang salah di masyarakat. Selain merusak reputasi, hal ini juga dapat digunakan untuk menciptakan perselisihan dalam keluarga dan masyarakat, serta mempengaruhi politik dan melakukan kejahatan.

Hal ini dapat digunakan sebagai alat propaganda dalam pemilu dan digunakan untuk melemahkan proses dan institusi demokrasi. Kemungkinan bahwa deepfake dapat dengan mudah dibuat dan disebarluaskan membuat ancaman dari deepfake menjadi lebih serius.

Konten dewasa yang menargetkan sebagian besar perempuan merupakan mayoritas video saat ini, namun penyalahgunaannya akan segera menyebar ke seluruh wilayah. India tercatat sebagai negara keenam yang paling rentan dalam penggunaan deepfake.

Selain itu, dilansir dari Wired, deepfake AI juga marak digunakan dalam proses Pemilihan Umum atau Pemilu yang belum lama ini terjadi di Slovakia. Selama Pemilu, banyak beredar rekaman audio dan video, yang tentunya palsu dan menyesatkan telah diposting ke Facebook.

Di dalamnya ada dua suara, diduga, Michal Simecka, yang memimpin partai liberal Progresif Slovakia, dan Monika Todova dari surat kabar harian Dennik N . Mereka tampaknya mendiskusikan cara melakukan kecurangan dalam pemilu, salah satunya dengan membeli suara dari minoritas Roma yang terpinggirkan di negara tersebut.

Simecka dan Dennik N segera mengecam audio tersebut sebagai palsu. Departemen pengecekan fakta di kantor berita AFP juga mengatakan audio tersebut menunjukkan tanda-tanda dimanipulasi menggunakan AI.

Namun rekaman itu diposting selama moratorium 48 jam menjelang pembukaan pemungutan suara, di mana media dan politisi seharusnya tetap diam. Artinya, berdasarkan aturan pemilu Slovakia, postingan tersebut sulit untuk dibantah secara luas.

Dan, karena postingan tersebut berbentuk audio, postingan tersebut mengeksploitasi celah dalam kebijakan media yang dimanipulasi oleh Meta, yang menyatakan bahwa hanya video palsu, yang mana seseorang telah diedit untuk mengucapkan kata-kata yang tidak pernah mereka ucapkan yang berpotensi melanggar aturan kebijakannya.

Potensi tersebut juga rentan terjadi di Indonesia yang dalam waktu dekat menghadapi momentum Pemilu serentak 2024. Lalu, bagaimana cara mengenali dan mengidentifikasi ciri-ciri konten video yang menggunakan deepfake AI?

Ada beberapa langkah. Mengutip TechTarget, ada beberapa praktik terbaik untuk mendeteksi serangan deepfake. Dalam konteks video, biasanya konten deepfake memiliki posisi dan proporsi wajah yang tidak biasa, bisa terkesan canggung, atau gestur mimik yang aneh dan beda dari wajah asli yang ditirukan.

Selain itu, gerakan wajah atau tubuh juga kerap tidak wajar. Dari sisi pewarnaan juga bisa dikenali, biasanya tidak alami dan video yang terlihat aneh saat di zoom-in dan zoom-out. Audionya juga biasanya tidak konsisten. Selain itu, video orang yang jadi korban deepfake juga biasanya tidak berkedip.

Itu video, untuk teks juga bisa dikenali. Dalam deepfake tekstual, ada beberapa indikator yang bisa dibaca dan jadi patokan bahwa konten tersebut dibuat menggunakan deepfake AI.

Cirinya, deepfake AI tekstual biasanya mengalami salah ejaan dengan kalimat yang tidak mengalir secara alami. Jika dikirim menggunakan email, biasanya alamat email sumber juga mencurigakan dengan ungkapan yang tidak cocok dengan pengirim yang seharusnya.

Terakhir, pesan di luar konteks yang tidak relevan dengan diskusi, acara, atau isu apa pun biasanya juga bisa jadi tanda bahwa hal tersebut dibuat dengan deepfake AI.

Namun, AI terus mengatasi beberapa indikator ini, seperti dengan alat yang mendukung kedipan alami.

Kategori

Follow Us

Join Whatsapp Channel

Waspada Bahaya Hoaks Deepfake AI, Kenali Ciri-cirinya, Jangan Gampang Terpancing

Tags

Artikel Terkait

Terpopuler

Download Aplikasi JawaPos.com

Kategori

Follow Us

Join Whatsapp Channel

Waspada Bahaya Hoaks Deepfake AI, Kenali Ciri-cirinya, Jangan Gampang Terpancing

Tags

Artikel Terkait

Ancaman Hoaks hingga AI Deepfake, Wamenkomdigi Nezar Patria Soroti Bahaya di Ruang Digital

Zulkifli Hasan Diterpa Isu Hoaks, BM PAN Polisikan Sejumlah Akun Medsos

Geram Sonny Septian-Fairuz A. Rafiq Diterpa Hoaks Perceraian, Elma Theana: Kondisinya Agak Drop

Terpopuler

Download Aplikasi JawaPos.com