Amodei Minta Pengembangan AI Diperlambat, Altman dan Musk Sepakat

JawaPos.com — Para pemimpin perusahaan kecerdasan buatan (AI) mulai menyerukan sesuatu yang jarang terdengar dari industri yang selama ini berlomba mempercepat kemampuan teknologinya: perlunya mengurangi laju pengembangan. CEO Anthropic Dario Amodei meminta perusahaan AI memperlambat peningkatan kemampuan model, sementara CEO OpenAI Sam Altman dan pemilik xAI Elon Musk menyatakan dukungan. 

Kesamaan sikap itu muncul ketika kekhawatiran terhadap risiko sistem AI yang dapat berkembang melampaui kendali manusia semakin kuat. Seruan Amodei datang setelah peneliti AI Jacob Coxon, 27, meninggalkan industri tersebut. 

Coxon sebelumnya menghabiskan tiga tahun melakukan pretraining, yakni tahap ketika model AI menyerap data dalam jumlah sangat besar, di OpenAI dan Anthropic. Dia menilai kedua perusahaan sedang mengejar model yang mampu memperbaiki dirinya sendiri tanpa pengamanan yang memadai.

Dilansir dari The Guardian, Senin (14/9/2026), Amodei menulis, “Kita harus memperlambat laju peningkatan kemampuan model AI. Kemajuannya tetap akan terasa cepat, dan kita harus memanfaatkan waktu yang kita peroleh dengan bijaksana,” tulisnya. Menurut Amodei, tidak membangun AI juga berarti menghilangkan manfaat bagi manusia atau menyerahkannya kepada kekuatan otoriter, sedangkan membangunnya terlalu cepat juga “sembrono”.

Amodei mengatakan Anthropic sebelumnya berusaha mencari titik tengah antara manfaat dan risiko AI. Namun, perkembangan dalam beberapa bulan terakhir membuatnya menilai risiko itu membutuhkan kehati-hatian lebih besar. Seruan serupa telah disampaikan Anthropic pada Juni, sementara Altman pada akhir Juli juga mengatakan pengembang kecerdasan buatan mungkin perlu memperlambat laju AI agar masyarakat memiliki waktu untuk beradaptasi.

Dorongan untuk memperlambat laju AI semakin kuat setelah OpenAI mengungkap bahwa dalam pengujian, sejumlah agen AI berhasil keluar dari lingkungan terbatas, terhubung ke internet, dan menyusup ke Hugging Face, platform yang digunakan pengembang untuk menyimpan serta berbagi kode. Agen AI merupakan perangkat lunak yang dapat menjalankan tugas tanpa pengawasan manusia secara terus-menerus. Bagi Amodei, kejadian itu tidak boleh dianggap sebagai insiden tunggal yang mudah diabaikan.

Dia menjelaskan bahwa sejumlah agen tersebut bertindak secara terkoordinasi dan agresif hingga melakukan serangan siber terhadap target yang tidak diperintahkan untuk diserang dan tidak berkaitan dengan tugas awal. “Dengan laju perkembangan kemampuan AI yang semakin cepat, kekhawatiran saya adalah dalam enam hingga 12 bulan, kawanan agen semacam itu bisa mampu mengambil alih seluruh internet,” ujar Amodei. Menurutnya, kemampuan semacam itu berpotensi menimbulkan kerugian hingga ratusan miliar dolar.

Peringatan tersebut mendapat respons cepat dari dua tokoh utama industri AI. Musk menulis di X, “Dario benar.” Altman juga menyatakan, “Saya setuju dengan Dario bahwa kita perlu mengatur laju pengembangan AI terdepan.” Kesamaan pandangan itu penting karena ketiganya memimpin perusahaan yang berada di garis depan pengembangan teknologi AI, meski memiliki pendekatan dan kepentingan bisnis yang berbeda.

Sebelumnya, peneliti AI Jacob Coxon juga meninggalkan industri setelah bekerja di OpenAI dan Anthropic. Dia menilai kedua perusahaan tidak bertindak secara bertanggung jawab dalam mengejar model yang mampu memperbaiki dirinya sendiri. “Mereka berpacu langsung menuju superinteligensi yang mampu memperbaiki dirinya sendiri dan mempertaruhkan hidup kita,” kata Coxon. Dia bahkan memperingatkan bahwa para pengembang AI sendiri meyakini teknologi itu berpotensi memusnahkan manusia pada akhir dekade.

Karena itu, Amodei tidak hanya meminta perusahaan memperlambat pengembangan, tetapi juga menawarkan mekanisme pengawasan. Anthropic akan memberikan “akses seperti karyawan” kepada tim “evaluator pihak ketiga” untuk memeriksa apakah perusahaan mematuhi praktik keselamatan. Amodei juga meminta perusahaan AI lain melakukan hal serupa, sementara Altman mengatakan OpenAI akan berkomitmen pada pengawasan eksternal dan menambahkan, “Kami akan segera menyampaikan lebih banyak hal.”