JawaPos.com - Kekhawatiran terhadap laju pengembangan kecerdasan buatan (AI) kembali mencuat setelah seorang peneliti Anthropic mengundurkan diri dan menuding perusahaan AI terkemuka, termasuk OpenAI, terlalu cepat mengembangkan sistem yang berpotensi sulit dikendalikan manusia. Peringatan itu kemudian diperkuat peneliti lain yang memperkirakan risiko AI memusnahkan umat manusia dalam satu dekade mencapai lebih dari 10 persen.

Jacob Coxon, peneliti yang sebelumnya bekerja di OpenAI dan Anthropic, mengumumkan pengunduran dirinya melalui X. Dia menilai kedua perusahaan "mempertaruhkan hidup kita" dengan mengejar superinteligensi yang mampu memperbaiki dirinya sendiri. Coxon mengatakan, "Para pembuat teknologi sebenarnya AI sungguh percaya bahwa teknologi ini dapat membunuh kita semua pada akhir dekade."

Dilansir dari CNBC, Kamis (10/9/2026), unggahan Coxon telah ditonton lebih dari 70 juta kali dan kembali memicu perdebatan lama di Silicon Valley mengenai apakah AI dapat dikembangkan secara aman. Coxon memperingatkan, "Jangan meremehkan kekuatan teknologi ini," karena sistem AI dengan kemampuan melampaui manusia kelak dapat meretas berbagai sistem, mengubah bidang kehidupan dalam semalam, serta memperoleh kekuatan dan sumber daya nyata.

Baca Juga: Trump Janjikan USD 5000 dan Perang Iran Berakhir jika Partai Republik Menang Pemilu Paruh Waktu AS

Peringatan itu mendapat dukungan dari Evan Hubinger, pemimpin riset alignment di Anthropic. "Jacob benar di sini. Kami benar-benar percaya bahwa AI dapat membunuh semua manusia. Secara pribadi, saya menilai peluangnya lebih dari 10 persen dalam dekade berikutnya," tulis Hubinger. Dia mengakui Anthropic berupaya mengurangi risiko, tetapi belum memiliki rencana untuk menyelesaikan persoalan alignment pada superinteligensi.

Sebagai informasi, istilah alignment merujuk pada upaya memastikan perilaku AI tetap sesuai dengan tujuan dan nilai manusia. Persoalan itu menjadi lebih rumit jika terjadi recursive self-improvement, atau ketika AI mampu merancang dan mengembangkan penerusnya tanpa campur tangan manusia. Teknologi itu belum tercapai, tetapi Anthropic dan OpenAI sebelumnya memperingatkan bahwa kemampuan tersebut dapat memperbesar risiko manusia kehilangan kendali.

Kekhawatiran serupa datang dari Kepala Ilmuwan OpenAI Jakub Pachocki. Dia memperingatkan bahwa belum ada perusahaan AI yang "menyelesaikan alignment dan pemantauan dengan tingkat yang cukup untuk terus meningkatkan kemampuan secara bertanggung jawab dengan kecepatan maksimum dalam waktu lama." Pachocki berharap perlambatan sukarela menjadi hal biasa sampai standar keselamatan bersama tersedia.

Tekanan untuk memperlambat pengembangan juga meluas ke tingkat internasional. Sekitar 1.400 peneliti AI menandatangani surat Pacing the Frontier pada Juli yang meminta pemerintah Amerika Serikat membangun perangkat teknis dan tata kelola untuk mengatur laju pengembangan AI terdepan. Surat itu memperingatkan kemampuan AI dapat berkembang lebih cepat daripada kemampuan manusia memahami dan mengendalikannya.

Di Washington, perdebatan mulai diterjemahkan menjadi kebijakan. Legislator memperkenalkan FRONTIER Act untuk membentuk kerangka pengaturan penerapan model AI canggih.

Senator Bernie Sanders dan anggota DPR Greg Casar juga mengajukan rancangan Ban Artificial Superintelligence Act yang akan menghentikan sementara pengembangan AI tingkat lanjut hingga aturan keselamatan ditetapkan. Keduanya mendapat tanggapan beragam.

Kekhawatiran publik juga merambah pembangunan pusat data yang menopang pengembangan AI. Komite Senator Republik Nasional menyebut pusat data sebagai isu tersembunyi yang berpotensi memengaruhi pemilu sela AS.

Menteri Keuangan AS Scott Bessent bahkan menilai perusahaan AI dan pengembang pusat data telah "melakukan pekerjaan yang sangat buruk dalam menjelaskan diri mereka kepada masyarakat Amerika" dan harus meyakinkan publik bahwa manfaat AI tidak hanya dinikmati kelompok kecil.

Rangkaian peringatan tersebut menunjukkan persoalan AI kini bergerak melampaui laboratorium teknologi. AFP dan Financial Times juga melaporkan pengunduran diri Coxon serta dukungan Hubinger terhadap kekhawatiran itu. Namun, perkiraan lebih dari 10 persen tetap merupakan penilaian pribadi Hubinger, bukan konsensus ilmiah mengenai kemungkinan kepunahan manusia. 

Baca Juga: Robot Humanoid Mulai Masuk ke Kehidupan Sehari-hari, dari Cuci Baju hingga Backflip di IFA 2026

Meski demikian, yang semakin jelas justru para peneliti yang berada di garis depan pengembangan AI sendiri kini mendesak adanya perlambatan, standar keselamatan bersama, dan koordinasi pemerintah sebelum kemampuan teknologi berkembang lebih cepat daripada kendali manusia.