AI Makin Mandiri, Kaspersky Ingatkan Kepercayaan Buta Manusia Bisa Jadi Bumerang

JawaPos.com - Perkembangan kecerdasan buatan (AI) kini memasuki tahap baru dengan hadirnya agen AI yang mampu bekerja semakin mandiri. Namun, kemampuan tersebut juga membawa risiko ketika manusia terlalu mempercayai hasil kerja AI dan mulai mengabaikan proses verifikasi.

Sojun Ryu, peneliti keamanan di GReAT (Global Research and Analysis Team) Kaspersky, mengatakan perkembangan AI telah bergerak dari sekadar alat pembuat dan peringkas konten menuju teknologi yang dapat mengambil tindakan secara otonom.

Dia menegaskan bahwa kini AI telah berkembang sangat pesat dalam beberapa tahun terakhir. Pada tahap awal, AI hadir dalam bentuk perangkat yang mampu menghasilkan, meringkas, dan menyusun draf konten. Tahap berikutnya menghadirkan copilot, yang menanamkan AI langsung ke dalam alur kerja untuk membantu, memberikan saran, dan memandu pengguna saat mereka bekerja.

“Kini, kita telah memasuki era agen AI yang mampu membuat perencanaan, menggunakan berbagai perangkat, memanggil API, dan bertindak secara otonom. Meskipun manusia tetap dilibatkan untuk memverifikasi setiap tahap pengembangan berbasis AI, kita melihat semakin banyak insiden di mana verifikasi sering kali diabaikan demi memaksimalkan produktivitas; ketika kecepatan melampaui verifikasi, kecepatan tersebut justru dapat memperbesar risiko," kata Sojun dalam keterangannya, Senin (17/8).

Menurut Kaspersky, persoalan tersebut bukan hanya berkaitan dengan kemampuan teknis AI, tetapi juga bagaimana manusia memperlakukan teknologi tersebut. Ketika proses pemeriksaan dilewati demi mengejar produktivitas, keputusan atau tindakan yang dihasilkan AI dapat membawa risiko keamanan yang lebih besar.

Kondisi ini juga dimanfaatkan penjahat siber. Alih-alih selalu mencari kerentanan teknis, pelaku dapat mengeksploitasi kepercayaan pengguna terhadap layanan dan aplikasi AI yang dianggap aman.

Kaspersky GReAT menemukan 92.000 serangan berbahaya yang menyamar sebagai layanan AI. Sebanyak 49 persen di antaranya menyamar sebagai aplikasi ChatGPT, sementara Claude dan Gemini masing-masing mencakup 18 persen.

Peneliti juga menemukan lebih dari 15.000 sampel malware yang menyamar sebagai perangkat lunak agentic AI. Malware tersebut mencakup trojan, spyware, exploit, downloader, dropper, hingga backdoor.

Temuan ini menunjukkan bahwa semakin mandiri AI, semakin penting pula peran manusia dalam melakukan verifikasi. Kecepatan yang ditawarkan AI seharusnya tidak membuat pengguna mengabaikan pemeriksaan, sebab kepercayaan yang diberikan tanpa verifikasi justru dapat menjadi celah yang dimanfaatkan penyerang.