AI Kini Bisa Bertindak Sendiri, Komdigi Siapkan Aturan Baru untuk Cegah Risiko

JawaPos.com - Kemampuan kecerdasan artifisial (AI) berkembang ke tahap baru. Teknologi yang sebelumnya hanya digunakan untuk menghasilkan jawaban kini mulai mampu menjalankan serangkaian tindakan secara mandiri, mulai dari menyusun rencana, mengambil keputusan, hingga mengeksekusi tugas tanpa campur tangan manusia secara langsung.

Perkembangan tersebut mendorong pemerintah mempercepat penyusunan regulasi agar peningkatan kemampuan AI tidak diikuti oleh meningkatnya risiko yang sulit dikendalikan. Salah satu langkah yang tengah disiapkan ialah Peraturan Presiden (Perpres) tentang Peta Jalan AI Nasional dan Etika AI sebagai fondasi pengembangan teknologi tersebut di Indonesia.

"Ketika AI tidak lagi sekadar menjawab, namun mulai mengambil tindakan, bagaimana kita meminta pertanggungjawaban saat tindakan tersebut salah?" ujar Wakil Menteri Komunikasi dan Digital Nezar Patria dalam Digital Transformation Indonesia Conference & Expo (DTI-CX) 2026 di Jakarta Pusat, Kamis (6/8).

Baca Juga:Berkobar! Marc Klok Siap Habis-Habisan Bawa Timnas Indonesia ke Semifinal Piala AFF 2026

Menurut Nezar, munculnya AI yang mampu bertindak secara otonom membuat tantangan yang dihadapi berbeda dibanding sebelumnya. Risiko tidak lagi terbatas pada informasi yang keliru, tetapi dapat berdampak langsung terhadap aktivitas seperti transaksi digital, perubahan data, proses persetujuan, hingga penyelenggaraan layanan publik yang berjalan otomatis.

"Tantangannya bukan semata-mata berasal dari kemampuan AI, melainkan dari kesenjangan antara kecepatan perkembangan teknologi dengan kemampuan tata kelola untuk mengimbanginya. Kondisi itu berpotensi memunculkan krisis etika dan akuntabilitas apabila tidak diantisipasi sejak dini," jelasnya.

Sebagai respons atas perkembangan tersebut, pemerintah tengah mematangkan Perpres Peta Jalan AI Nasional dan Etika AI. Regulasi ini dirancang bukan hanya untuk membuka ruang inovasi, tetapi juga memastikan pemanfaatan AI berlangsung secara aman, bertanggung jawab, dan memberikan manfaat yang luas bagi masyarakat.

"Pilar pertama yang disiapkan pemerintah adalah Human-Centered AI atau AI yang berpusat pada manusia. Prinsip ini menegaskan bahwa AI harus memperkuat kapasitas manusia, bukan menggantikannya," ungkapnya.

Baca Juga:Berdaya 26,4 MW, PLTA Garung Milik PLN Indonesia Power Pasok Listrik Puluhan Desa

Melalui pendekatan itu, pemerintah akan memastikan keputusan yang memiliki dampak besar tetap berada di bawah pengawasan manusia. Selain itu, algoritma yang memengaruhi kepentingan publik harus dapat dijelaskan dan diaudit, serta pengembangan AI wajib mempertimbangkan kondisi sosial maupun budaya Indonesia.

"Pilar kedua adalah penerapan tata kelola berbasis risiko. Dalam pendekatan ini, sistem AI yang memiliki tingkat risiko tinggi akan diwajibkan menjalani penilaian risiko sejak tahap perancangan," tambahnya.

Nezar juga menyebut pemerintah akan menerapkan standar transparansi dalam pengembangan AI. Ketentuan tersebut mencakup kewajiban mengungkap model AI yang digunakan, memberikan pemberitahuan kepada pengguna, hingga menyediakan pelabelan yang jelas terhadap konten hasil AI.