JawaPos.com - Upaya membangun standar keselamatan kecerdasan buatan (AI) lintas negara menghadapi perbedaan tajam di Amerika Serikat (AS). Sam Altman dari OpenAI, Dario Amodei dari Anthropic, dan Clément Delangue dari Hugging Face meminta koordinasi internasional karena kemampuan AI berkembang cepat dan risikonya semakin melampaui batas satu perusahaan atau negara.
Ketiganya menyampaikan pandangan itu dalam pertemuan Dewan Keamanan Perserikatan Bangsa-Bangsa (PBB) di New York. Mereka mendorong standar bersama untuk menguji kemampuan model AI, menilai risikonya, mengukur kecukupan pengamanan, serta memastikan manusia tetap memiliki kendali ketika sistem menjadi semakin otonom.
Dilansir dari BBC, Sabtu (26/9/2026), Altman mengatakan, "Jika AI ingin bersifat demokratis, keputusan paling penting tidak dapat dibuat oleh laboratorium di San Francisco saja." Menurutnya, negara-negara perlu bekerja sama demi “kepentingan bersama dalam menghadapi teknologi baru yang sangat kuat."
Altman juga mengusulkan standar AI "nasional dan internasional" untuk mengukur kemampuan, menilai risiko, menentukan pengamanan, dan mempertahankan pengawasan manusia. Dia meminta mekanisme "pelaporan, klasifikasi, dan protokol pelaporan insiden yang cepat agar dunia dapat belajar dari kegagalan sebelum berubah menjadi bencana."
Baca Juga: Albanese Ungkap Agen AI OpenAI Akses Portal Medicare Australia Tanpa Izin
Altman menegaskan, "Kita membutuhkan standar bersama agar negara-negara dapat membandingkan bukti, memverifikasi kepatuhan, serta memiliki bahasa dan pemahaman bersama mengenai apa yang sedang terjadi."
Amodei menyampaikan kekhawatiran serupa. Setelah sebelumnya menyerukan perlambatan pengembangan AI, CEO Anthropic itu mengatakan AI, "jika dikelola dengan buruk, dapat menjadi risiko bagi umat manusia secara keseluruhan."
Karena itu, pengembangan lebih lanjut membutuhkan "standar keselamatan yang lebih ketat." Dia menegaskan, "Kami akan memperlambat sebanyak yang diperlukan untuk memastikan setiap teknologi AI berikutnya yang kami rilis benar-benar aman."
Namun, Amodei juga mengakui batas pendekatan perusahaan. "Terlepas dari apa yang kami lakukan, mengelola risiko ini pada akhirnya lebih besar daripada satu perusahaan mana pun, dan skalanya mencakup seluruh industri serta dunia," ujarnya.
Delangue menambahkan, "Komunitas global membutuhkan standar yang lebih kuat untuk pemantauan dan pengungkapan insiden."
Pandangan itu berhadapan langsung dengan Michael Kratsios, penasihat teknologi Presiden Donald Trump. Dia mengakui perkembangan AI semakin cepat dan membawa risiko, tetapi menilai hal itu bukan alasan "untuk menghentikan pengembangan atau membatasinya dengan struktur tata kelola global yang baru."
Kratsios menegaskan, "Dialog internasional di forum ini dan forum lainnya tidak boleh dibiarkan bergeser menuju tata kelola global."
Sikap tersebut sejalan dengan posisi Trump yang menolak perlambatan pengembangan AI karena keunggulan strategis Amerika Serikat. Trump sebelumnya mengatakan, "Kita memimpin Tiongkok dalam AI... dan, terus terang, saya ingin mempertahankannya karena siapa pun yang memenangkan AI, akan menang."
Perbedaan pandangan itu semakin relevan setelah sejumlah insiden menunjukkan bahwa agen AI dapat bertindak secara mandiri dan melampaui batas yang ditetapkan pengembang.
Baca Juga: OpenAI Klaim Pecahkan Teka-teki Matematika 90 Tahun dalam 88 Jam
Hugging Face sebelumnya mengalami peretasan oleh agen AI OpenAI ketika sistem tersebut keluar dari lingkungan pengujian dan mengakses infrastrukturnya. OpenAI kemudian menyebut insiden Juli itu sebagai pelanggaran keamanan yang terjadi ketika modelnya menerobos pembatas akses internet.
Hugging Face akhirnya diakuisisi Nvidia pada September dengan nilai USD 12,93 miliar. Insiden tersebut menjadi salah satu contoh yang memperkuat perdebatan mengenai kebutuhan pemantauan dan pelaporan ketika agen AI semakin mampu menjalankan tindakan secara mandiri.
Pertemuan PBB itu akhirnya memperlihatkan persoalan yang lebih luas daripada sekadar regulasi. Di satu sisi, para pembuat AI sendiri meminta negara-negara membangun bahasa dan standar keselamatan bersama.
Di sisi lain, pemerintah Amerika Serikat justru mempertahankan pendekatan berbasis kedaulatan nasional agar pengembangan teknologi tetap bergerak cepat. Ketegangan inilah yang kini menjadi salah satu tantangan utama dalam membentuk aturan AI yang dapat berlaku lintas negara.