Agentic AI Bisa Ambil Keputusan Sendiri, Wamen Komdigi Nezar Ingatkan Kendali Manusia

JawaPos.com - Perkembangan teknologi kecerdasan buatan kini mengarah ke sistem yang mampu menjalankan tugas lebih independen.

Salah satunya Agentic Artificial Intelligence (Agentic AI) yang dapat melakukan tindakan berdasarkan keputusan sendiri, bukan hanya memberikan jawaban atas perintah pengguna.

Kemampuan ini menawarkan efisiensi, tapi juga menimbulkan tantangan menjaga manusia tetap mengendalikan.

Wakil Menteri Komunikasi dan Digital Nezar Patria mengingatkan pemberian kewenangan pada AI harus disertai batas yang jelas.

“Agentic AI bisa berpikir, membangun nalarnya sendiri, dan membuat keputusan tanpa kita ketahui. Banyak juga risiko yang membuat kita mempertanyakan apakah manusia masih ada di dalam proses itu?” ujar Wamen Nezar di Jakarta Barat, Kamis (10/9).

Menurut Nezar, hal ini terlihat dari pemanfaatan Agentic AI untuk kebutuhan perjalanan.

Dalam skenario tertentu, AI tidak hanya memberi rekomendasi destinasi, tapi juga menentukan tiket, memesan tempat menginap, dan berkomunikasi dengan penyedia jasa.

AI bahkan dapat menyelesaikan transaksi pembayaran secara mandiri. Semakin luas akses tersebut, tanggung jawab manusia makin besar.

“Ini yang harus dipertimbangkan risiko-risikonya karena Agentic AI punya kemampuan untuk membuat keputusan jika kita berikan otoritas,” jelasnya.

Tantangan makin rumit saat satu sistem AI berinteraksi dengan sistem AI lain. Dalam situasi ini, koordinasi dan pengambilan keputusan dapat terjadi langsung antar sistem tanpa campur tangan manusia di tiap tahap.