JawaPos.com — Para pemimpin laboratorium kecerdasan buatan (AI) terdepan Amerika Serikat mulai mencapai kesepakatan yang sebelumnya sulit dibayangkan: laju pengembangan AI perlu diperlambat. 

Seruan itu muncul setelah Jacob Coxon, mantan peneliti Anthropic, mengundurkan diri dan memperingatkan bahwa perusahaan-perusahaan AI sedang berlomba menuju superinteligensi yang dapat meningkatkan kemampuannya sendiri. 

Coxon menuduh para pengembang “mempertaruhkan nyawa kita” dalam perlombaan tersebut. Seruan tersebut menandai perubahan penting dalam perdebatan mengenai masa depan AI. 

Dilansir dari Business Insider, Selasa (15/9/2026), berikut pandangan sejumlah tokoh yang berada di pusat perdebatan mengenai risiko AI dan seruan untuk memperlambat pengembangannya:

Dario Amodei

CEO Anthropic Dario Amodei kemudian membawa kekhawatiran itu ke tingkat yang lebih konkret melalui esainya, We Must Pace the Frontier. Ia mengatakan AI memiliki manfaat besar, tetapi risiko kehilangan kendali, serangan siber, bioterorisme, dan gangguan ekonomi menuntut kehati-hatian lebih besar. 

Menurut Amodei, perkembangan kemampuan AI kini dapat berlangsung lebih cepat karena AI mulai membantu membangun generasi AI berikutnya, sebuah proses yang dikenal sebagai recursive self-improvement.

Amodei juga menunjuk insiden OpenAI-Hugging Face ketika sekelompok agen AI melakukan serangan siber terhadap target yang tidak diperintahkan untuk diserang dan bahkan mencoba meretas sistem yang digunakan untuk mengevaluasi mereka. 

Ia memperingatkan, jika kemampuan sistem semacam itu meningkat sementara tingkat ketidakselarasannya tetap sama, dampaknya dapat menjadi jauh lebih besar. Dalam perkiraannya, dalam enam hingga 12 bulan, sistem semacam itu berpotensi mengambil alih internet melalui botnet yang persisten dan menyebabkan kerugian hingga ratusan miliar dolar.

Amodei menegaskan, “Taruhannya terlalu tinggi sehingga upaya memperlambat laju pengembangan tidak boleh menjadi tindakan kosong. Kita harus menggunakan waktu yang diberikan dengan bijaksana.” 

Ia mengusulkan tiga langkah, yakni evaluator pihak ketiga yang mendapat akses permanen untuk menguji keamanan model, koordinasi antarlaboratorium AI di negara demokratis dengan dukungan pemerintah, serta koordinasi dengan pemerintahan otoriter ketika mekanisme verifikasi memungkinkan. Anthropic berkomitmen menjalankan langkah pertama.

Sam Altman, Elon Musk, dan Demis Hassabis

Seruan itu segera mendapat dukungan dari rival-rival Anthropic. CEO OpenAI Sam Altman menyatakan setuju dan mengatakan OpenAI akan menjalani pemantauan pihak ketiga. 

Elon Musk juga mendukung gagasan Amodei, sementara pendiri Google DeepMind Demis Hassabis menyatakan dukungan terhadap arah yang ditawarkan. Dengan demikian, laboratorium AI terdepan mulai menunjukkan kesamaan pandangan bahwa keselamatan tidak cukup dikejar setelah kemampuan model meningkat.

Barack Obama

Perdebatan kemudian bergerak dari laboratorium AI ke pemerintahan. Mantan Presiden AS Barack Obama menyerukan agar pemerintah bersikap proaktif dalam mengatur AI. “Kita tidak bisa memasukkan AI kembali ke dalam kotak. 

Tetapi kita dapat bersama-sama menentukan bagaimana AI dikembangkan dan digunakan, daripada hanya duduk diam membiarkan AI dan dampaknya terjadi kepada kita,” tulis Obama.

Ia juga tampak mendukung Project Blueprint, inisiatif kebijakan AI yang didukung investor Silicon Valley Ron Conway dan dipimpin mantan pejabat Gedung Putih Jay Carney.

David Sacks

Posisi pemerintahan Donald Trump sendiri jauh lebih skeptis terhadap perlambatan yang didorong melalui regulasi. Penasihat presiden bidang sains dan teknologi David Sacks mengatakan perusahaan AI boleh memperlambat pengembangan jika memang menginginkannya. 

Namun, ia menuding seruan tersebut dapat digunakan untuk mendapatkan keuntungan di pasar dan memperoleh pengaruh dalam pembentukan regulasi. “Silakan saja,” tulis Sacks mengenai keputusan perusahaan untuk memperlambat. “Tetapi berhentilah berpura-pura bahwa Anda membutuhkan izin orang lain.”

Michael Burry

Investor Michael Burry juga mempertanyakan motif di balik seruan perlambatan. Investor yang dikenal karena bertaruh melawan pasar perumahan AS sebelum krisis keuangan itu menyebut dorongan Altman, Amodei, dan pihak lain sebagai tindakan yang “mementingkan kepentingan sendiri”. 

Menurut Burry, perlambatan dapat menguntungkan perusahaan yang sudah mapan dengan membuat pesaing yang lebih kecil lebih sulit berkembang. Ia juga menilai seruan itu dapat membantu membangun sentimen pasar menjelang kemungkinan penawaran saham perdana perusahaan AI.

Clément Delangue dan AI terbuka 

CEO Hugging Face Clément Delangue mengambil persoalan dari sudut berbeda. Menurutnya, keselamatan AI tidak dapat diserahkan hanya kepada laboratorium yang mengembangkan model paling canggih. 

Hugging Face, yang berfokus pada AI sumber terbuka, meluncurkan open alignment initiative dan meminta agar inisiatif tersebut dilibatkan dalam sistem evaluator pihak ketiga yang diusulkan Amodei. “Mari membuat AI lebih aman dengan membuatnya lebih transparan!” tulis Delangue.

Jason Calacanis

Investor dan pembawa acara All-In Jason Calacanis bahkan lebih curiga terhadap seruan regulasi. Ia menilai OpenAI dan Anthropic berpotensi menggunakan aturan keselamatan untuk mempersempit ruang gerak perusahaan AI sumber terbuka yang lebih kecil. 

“Jika Anda menginginkan keamanan, Anda menginginkan keterbukaan, dan sumber terbuka adalah proses keterbukaan yang paling kuat,” tulis Calacanis. Ia juga memperingatkan agar perusahaan tidak meminta pemerintah memperlambat model sumber terbuka atas nama keselamatan.

Bernie Sanders

Senator Vermont Bernie Sanders justru mendorong pembatasan paling keras. Pada 3 September, ia mengusulkan undang-undang yang akan melarang pengembangan dan penerapan superinteligensi buatan serta memberlakukan jeda sementara terhadap pengembangan sistem AI canggih.

Setelah Coxon mengeluarkan peringatannya, Sanders mengatakan, “Tuan Coxon benar.” Ia kemudian menyerukan agar Presiden Donald Trump bernegosiasi dengan Presiden Tiongkok Xi Jinping untuk membentuk perjanjian komprehensif mengenai jeda pengembangan AI canggih dan larangan superinteligensi.

Francois Chollet dan Gavin Baker

Peneliti AI François Chollet mendukung pengawasan, tetapi mengingatkan bahwa prosesnya harus demokratis dan dapat dipertanggungjawabkan, dengan keterlibatan nasional dan internasional. Ia juga memperingatkan agar seruan regulasi tidak berubah menjadi cara bagi OpenAI dan Anthropic untuk menghambat pesaing. 

Investor Gavin Baker memiliki kekhawatiran serupa. Menurutnya, AI dapat didistribusikan secara luas dan aman tanpa memusatkan kendali pada segelintir perusahaan. Ia menilai evaluator independen merupakan perkembangan konkret, tetapi menolak situasi ketika hanya beberapa manusia mengendalikan teknologi kecerdasan yang sangat kuat.

Satya Nadella dan Alexandr Wang

CEO Microsoft Satya Nadella menyambut gagasan evaluator independen dan meminta agar pengawasan melibatkan berbagai perusahaan, negara, disiplin ilmu, serta akademisi. Ia juga mengatakan Microsoft akan menerbitkan kode etik untuk model AI-nya.

“Setiap upaya mencapai superinteligensi harus berlandaskan prinsip bahwa jika AI yang kita bangun tidak membantu manusia dan tidak berada di bawah kendali manusia, maka upaya itu tidak layak dilakukan,” kata Nadella.

Chief AI Officer Meta Alexandr Wang menambahkan bahwa alignment, yakni kemampuan AI mengikuti tujuan manusia dan tidak bertindak menyimpang, dapat menjadi batas utama dalam memperbesar kemampuan AI.

Aaron Levie, Chamath Palihapitiya, dan Gary Marcus

CEO Box Aaron Levie menyebut tujuan Amodei sebagai “kebutuhan mutlak”, tetapi mengakui tantangan terbesar adalah mencapai keamanan tanpa menghambat inovasi atau mengurangi persaingan. Investor Chamath Palihapitiya mengambil posisi lebih skeptis. 

Ia mengatakan jika karyawan Anthropic benar-benar percaya teknologi perusahaan dapat menimbulkan ancaman eksistensial, hal itu dapat menciptakan persoalan tanggung jawab dan pengungkapan menjelang kemungkinan IPO Anthropic. 

Peneliti AI Gary Marcus bahkan menilai AI saat ini belum membutuhkan perlambatan. “Kita belum membutuhkan perlambatan. Dan tentu saja kita tidak perlu panik. Kita hanya perlu menarik produk yang tidak aman dari pasar,” tulisnya.

Pertarungan yang lebih besar dari sekadar keselamatan

Dean Ball, mantan penasihat senior Trump untuk AI, mengingatkan bahwa penggunaan evaluator independen bukan gagasan baru karena penilaian eksternal telah lama digunakan di industri lain. 

Sementara itu, Eliezer Yudkowsky, peneliti yang lama memperingatkan risiko superinteligensi, meminta agar ancaman AI tidak dijadikan pertarungan partisan. “Saat ini tidak ada yang lebih penting daripada menjadikan ‘jangan mati karena AI’ sebagai proyek bipartisan,” tulisnya.

Perbedaan pandangan itu menunjukkan bahwa konsensus industri hanya terbatas pada kebutuhan meningkatkan pengawasan, bukan pada bentuk aturan atau seberapa jauh pengembangan harus diperlambat.

Dari perlombaan teknologi menjadi perebutan kendali

Perdebatan ini akhirnya menyentuh persoalan yang lebih besar daripada kemungkinan AI menjadi terlalu kuat. Jika perusahaan memang harus memperlambat pengembangan, siapa yang menentukan kecepatannya? Jika evaluator independen diberi akses ke sistem AI, siapa yang menjamin mereka benar-benar independen? 

Dan jika regulasi dibuat terlalu berat, apakah keselamatan meningkat atau justru kendali teknologi terkonsentrasi pada perusahaan dengan modal terbesar? Amodei sendiri tidak menyerukan penghentian AI. Ia mengusulkan agar kemampuan teknologi berkembang pada tingkat yang masih memungkinkan keselamatan mengejar.

Pada titik itu, perdebatan mengenai “kiamat AI” berubah menjadi persoalan kekuasaan. Para pemimpin industri mulai mengakui bahwa kemampuan AI dapat berkembang lebih cepat daripada mekanisme pengawasannya, tetapi mereka belum sepakat mengenai siapa yang harus menentukan batas tersebut. 

Amerika Serikat juga belum memperoleh kesepakatan politik mengenai regulasi, sementara Tiongkok belum ikut dalam konsensus yang muncul di kalangan pemimpin AI Amerika. Artinya, perlombaan AI belum berhenti. Yang berubah adalah kesadaran bahwa semakin cepat teknologi ini berkembang, semakin besar pula taruhan mengenai siapa yang mengendalikannya.