Komdigi Ingatkan Risiko Agentic AI, Perusahaan Perlu Terapkan KYA

JawaPos.com - Perkembangan agentic artificial intelligence (agentic AI) yang mampu mengolah informasi dan menjalankan tindakan secara mandiri memunculkan kebutuhan baru bagi perusahaan dalam mengelola interaksi digital. 

Tidak hanya mengenali pelanggan, perusahaan juga perlu memastikan identitas serta kewenangan agen AI yang mengakses sistem dan menjalankan aktivitas bisnis.

Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria menilai, pendekatan Know Your Agent (KYA) perlu mendapat perhatian seiring meningkatnya penggunaan agen AI di berbagai sektor. Langkah ini dinilai penting untuk mengantisipasi potensi penyalahgunaan data hingga tindakan sistem AI yang melampaui batas otorisasi.

“Bukan lagi KYC, Know Your Customer, tapi harus ada KYA, Know Your Agent,” ujar Wamen Nezar dalam Hukum Online Executive Breakfast & Networking Session di Jakarta Pusat, dikutip Jumat (16/10). 

Baca Juga:KPK Pamerkan Uang Rp 1,2 Miliar dari OTT Bupati Klaten, Ratusan Juta Disimpan di Dalam Tong Biru

Menurut Nezar, perusahaan kini semakin memanfaatkan agentic AI untuk mendukung layanan pelanggan, transaksi, serta berbagai kegiatan operasional. Berbeda dari AI generatif yang umumnya menghasilkan respons berdasarkan perintah, agentic AI juga dapat menjalankan tindakan tertentu dengan dukungan algoritma dan otorisasi yang diberikan.

Kemampuan tersebut membuka peluang otomatisasi proses bisnis. Namun, di sisi lain, terdapat risiko ketika agen AI mengambil keputusan dan bertindak berdasarkan akses yang dimilikinya. “Dengan mesin bisa membuat keputusan sendiri, risiko meningkat,” katanya.

Nezar menjelaskan, perusahaan perlu memahami siapa yang mengoperasikan agen AI, sistem apa yang dapat diakses, serta tindakan apa saja yang diizinkan. Kejelasan identitas dan batas kewenangan diperlukan agar penggunaan teknologi tersebut tidak menimbulkan persoalan dalam tata kelola perusahaan.

Ia mengingatkan bahwa agen AI berpotensi menjalankan tindakan yang tidak sesuai dengan aturan internal apabila akses dan batas operasionalnya tidak dikelola secara memadai.

“Kadang ada agentic AI yang mungkin dia akan mem-bypass sejumlah peraturan-peraturan ataupun regulasi yang dibuat ataupun batasan-batasan di dalam satu korporasi karena dia bisa bertindak,” ungkap Wamen Nezar.