Suara dan Wajah Bisa Dipalsukan AI, Wamenkomdigi Nezar Patria Ingatkan Bahaya Deepfake

JawaPos.com - Kemajuan teknologi kecerdasan artifisial (AI) membawa manfaat besar bagi berbagai sektor, namun di sisi lain juga memunculkan tantangan baru dalam keamanan digital. Salah satu yang menjadi sorotan adalah meningkatnya penggunaan teknologi AI untuk memproduksi konten palsu yang semakin sulit dikenali masyarakat.

Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria menilai penyalahgunaan AI, khususnya melalui teknologi deepfake, berpotensi memperparah maraknya kasus penipuan digital.

“Sekarang suara kita bisa ditiru, gambar wajah kita bisa ditiru, dan tampil dalam bentuk deepfake video yang dihasilkan oleh AI dengan sangat mulus,” ujarnya dalam Indonesia Ethical AI Summit di Jakarta Selatan, Rabu (17/6).

Baca Juga:Resmi Berseragam Persebaya, Ramadhan Sananta Bidik Prestasi dan Target Tinggi Musim Depan

Nezar menjelaskan perkembangan AI saat ini bergerak sangat cepat. Teknologi tersebut tidak lagi berhenti pada generative AI, tetapi telah berkembang menuju agentic AI yang memiliki kemampuan lebih kompleks, termasuk melakukan penalaran dan menjalankan berbagai tugas secara mandiri.

Menurutnya, lompatan inovasi tersebut memang membuka peluang besar bagi peningkatan produktivitas dan efisiensi. Namun, kemajuan itu juga menghadirkan berbagai risiko yang harus diantisipasi sejak dini.

Dalam konteks keamanan siber, ia menyoroti semakin canggihnya modus penipuan yang memanfaatkan AI. Teknologi deepfake, kata Nezar, kini mampu menciptakan bentuk manipulasi yang dikenal sebagai synthetic reality atau realitas sintetik, sehingga batas antara konten asli dan hasil rekayasa semakin kabur.

"Awamnya masyarakat kita tentang perkembangan AI ini membuat banyak yang terkecoh. Itu sebabnya scam saat ini luar biasa," tegasnya.

Baca Juga:Usai 7 Jam Diperiksa KPK, Bos Maktour Fuad Hasan Bantah soal Penerimaan Keuntungan Ilegal Kuota Haji Khusus Rp 27,8 Miliar

Ia menambahkan bahwa pengembangan agentic AI perlu dibarengi dengan pengawasan manusia agar keputusan yang dihasilkan sistem tetap dapat dikendalikan dan dipertanggungjawabkan.

Menurut Nezar, sejumlah pakar telah mendorong penerapan mekanisme pengamanan yang lebih ketat, termasuk memastikan manusia tetap memiliki peran dalam proses pengambilan keputusan.

“Banyak pakar mengusulkan agar dilakukan satu protokol yang cukup ketat, termasuk menerapkan prinsip human in the loop dalam decision making,” jelasnya.