Konten Deepfake Meningkat 550 Persen dalam 5 Tahun Terakhir, ini Langkah Komdigi untuk Menangkal

JawaPos.com - Kementerian Komunikasi dan Digital (Komdigi) mendesak platform digital global untuk menyediakan fitur pendeteksi konten yang dibuat oleh kecerdasan buatan (AI) secara gratis bagi publik. Langkah ini dinilai krusial untuk membantu masyarakat dalam menangkal penyebaran hoaks dan deepfake.

Wakil Menteri Komunikasi dan Digital (Komdigi) Nezar Patria menyoroti peningkatan tajam konten deepfake yang dinilainya kian mengkhawatirkan. Ia merujuk pada data Sensity AI yang mencatat peningkatan 550 persen konten deepfake dalam lima tahun terakhir.

"Saya yakin jumlahnya jauh lebih besar karena kemampuan aplikasi untuk membuat video atau foto deepfake kini sangat masif," tegas Nezar di Jakarta, dikutip Rabu (10/9).

​Ia meyakini bahwa platform-platform besar memiliki kapabilitas untuk membantu. Nezar berharap, platform digital juga bisa melakukan filterisasi konten AI.

"Atau setidaknya menyediakan fitur untuk mengecek apakah sebuah konten buatan AI atau bukan. Fitur ini sebaiknya bisa digunakan publik secara gratis," kata Nezar.

​Nezar juga menambahkan bahwa fitur deteksi ini dapat menjadi layanan standar. Pasalnya, platform memiliki teknologi komputasi dan algoritma yang dapat dimanfaatkan untuk kepentingan publik. 

"Kalau kita meragukan satu isi konten, bisa dicek dengan kekuatan komputasi dan AI yang mereka punya. Misalnya di Meta atau Google, fitur seperti ini bisa jadi bagian layanan standar," jelasnya.

​Dia menekankan komitmen pemerintah untuk menyeimbangkan inovasi AI dengan regulasi agar tidak disalahgunakan sebagai alat penyebar hoaks. Indonesia saat ini pun telah memiliki perangkat hukum seperti UU ITE, UU PDP, dan PP TUNAS. 

Selain itu, pemerintah juga sedang merancang regulasi khusus untuk pemanfaatan AI yang etis dan bertanggung jawab. ​Di luar ranah regulasi, Komdigi juga menggandeng ekosistem luas, termasuk Mafindo (Masyarakat Anti Fitnah Indonesia) dan media.

"Ruang digital ini milik kita bersama, maka kita perlu kerja sama yang erat untuk menjaga publik dari hoaks dan konten negatif,” tegasnya.

Dalam kesempatan yang sama, ​Ketua Mafindo, Septiaji Eko Nugroho, memaparkan bahwa fenomena deepfake di Indonesia pertama kali muncul pada 2023 dan kini berkembang pesat. Konten ini, menurutnya, kerap disalahgunakan untuk penipuan digital dan penggiringan opini politik.

"Untuk isu politik juga ada tapi deepfake paling banyak digunakan untuk penipuan digital. Kalau ada konten hoaks bentuknya video yang muncul di tahun 2025 dengan tema penipuan digital, itu mayoritas adalah deepfake," jelas Septiaji.

​Ia menambahkan bahwa Mafindo akan terus berkolaborasi dengan Kementerian Komdigi, media, dan pegiat literasi untuk melakukan verifikasi fakta terhadap hoaks dan deepfake yang beredar di internet.