JawaPos.com - Kemampuan kecerdasan artifisial (AI) berkembang ke tahap baru. Teknologi yang sebelumnya hanya digunakan untuk menghasilkan jawaban kini mulai mampu menjalankan serangkaian tindakan secara mandiri, mulai dari menyusun rencana, mengambil keputusan, hingga mengeksekusi tugas tanpa campur tangan manusia secara langsung.
Perkembangan tersebut mendorong pemerintah mempercepat penyusunan regulasi agar peningkatan kemampuan AI tidak diikuti oleh meningkatnya risiko yang sulit dikendalikan. Salah satu langkah yang tengah disiapkan ialah Peraturan Presiden (Perpres) tentang Peta Jalan AI Nasional dan Etika AI sebagai fondasi pengembangan teknologi tersebut di Indonesia.
"Ketika AI tidak lagi sekadar menjawab, namun mulai mengambil tindakan, bagaimana kita meminta pertanggungjawaban saat tindakan tersebut salah?" ujar Wakil Menteri Komunikasi dan Digital Nezar Patria dalam Digital Transformation Indonesia Conference & Expo (DTI-CX) 2026 di Jakarta Pusat, Kamis (6/8).
Baca Juga: Berkobar! Marc Klok Siap Habis-Habisan Bawa Timnas Indonesia ke Semifinal Piala AFF 2026
Menurut Nezar, munculnya AI yang mampu bertindak secara otonom membuat tantangan yang dihadapi berbeda dibanding sebelumnya. Risiko tidak lagi terbatas pada informasi yang keliru, tetapi dapat berdampak langsung terhadap aktivitas seperti transaksi digital, perubahan data, proses persetujuan, hingga penyelenggaraan layanan publik yang berjalan otomatis.
"Tantangannya bukan semata-mata berasal dari kemampuan AI, melainkan dari kesenjangan antara kecepatan perkembangan teknologi dengan kemampuan tata kelola untuk mengimbanginya. Kondisi itu berpotensi memunculkan krisis etika dan akuntabilitas apabila tidak diantisipasi sejak dini," jelasnya.
Sebagai respons atas perkembangan tersebut, pemerintah tengah mematangkan Perpres Peta Jalan AI Nasional dan Etika AI. Regulasi ini dirancang bukan hanya untuk membuka ruang inovasi, tetapi juga memastikan pemanfaatan AI berlangsung secara aman, bertanggung jawab, dan memberikan manfaat yang luas bagi masyarakat.
"Pilar pertama yang disiapkan pemerintah adalah Human-Centered AI atau AI yang berpusat pada manusia. Prinsip ini menegaskan bahwa AI harus memperkuat kapasitas manusia, bukan menggantikannya," ungkapnya.
Baca Juga: Berdaya 26,4 MW, PLTA Garung Milik PLN Indonesia Power Pasok Listrik Puluhan Desa
Melalui pendekatan itu, pemerintah akan memastikan keputusan yang memiliki dampak besar tetap berada di bawah pengawasan manusia. Selain itu, algoritma yang memengaruhi kepentingan publik harus dapat dijelaskan dan diaudit, serta pengembangan AI wajib mempertimbangkan kondisi sosial maupun budaya Indonesia.
"Pilar kedua adalah penerapan tata kelola berbasis risiko. Dalam pendekatan ini, sistem AI yang memiliki tingkat risiko tinggi akan diwajibkan menjalani penilaian risiko sejak tahap perancangan," tambahnya.
Nezar juga menyebut pemerintah akan menerapkan standar transparansi dalam pengembangan AI. Ketentuan tersebut mencakup kewajiban mengungkap model AI yang digunakan, memberikan pemberitahuan kepada pengguna, hingga menyediakan pelabelan yang jelas terhadap konten hasil AI.
"Untuk sektor-sektor strategis seperti kesehatan dan keuangan, mitigasi risiko akan disusun sesuai karakteristik masing-masing sektor," jelasnya.
Ia menilai langkah tersebut menjadi bagian dari upaya membangun ekosistem AI yang tetap mampu mendorong inovasi tanpa mengabaikan perlindungan terhadap masyarakat. Seiring meningkatnya kemampuan AI untuk bertindak secara mandiri, tata kelola dinilai harus hadir lebih dulu sebelum risiko berkembang semakin besar.
Baca Juga: Selebrasi Ikonik Ramadhan Sananta! Striker Persebaya Surabaya Jawab Keraguan dengan Gol
"Jawaban pemerintah terletak pada kerangka kerja berbasis risiko dan berpusat pada manusia yang sedang kita bangun bersama. Namun yang lebih penting adalah komitmen seluruh pemangku kepentingan agar tidak pernah membiarkan kecepatan inovasi melampaui komitmen kita terhadap akuntabilitas," tandasnya.