Ini Pendapat Elite AI soal Risiko Kepunahan Manusia dan Seruan Memperlambat Pengembangan AI

JawaPos.com — Para pemimpin laboratorium kecerdasan buatan (AI) terdepan Amerika Serikat mulai mencapai kesepakatan yang sebelumnya sulit dibayangkan: laju pengembangan AI perlu diperlambat. 

Seruan itu muncul setelah Jacob Coxon, mantan peneliti Anthropic, mengundurkan diri dan memperingatkan bahwa perusahaan-perusahaan AI sedang berlomba menuju superinteligensi yang dapat meningkatkan kemampuannya sendiri. 

Coxon menuduh para pengembang “mempertaruhkan nyawa kita” dalam perlombaan tersebut. Seruan tersebut menandai perubahan penting dalam perdebatan mengenai masa depan AI. 

Dilansir dari Business Insider, Selasa (15/9/2026), berikut pandangan sejumlah tokoh yang berada di pusat perdebatan mengenai risiko AI dan seruan untuk memperlambat pengembangannya:

Dario Amodei

CEO Anthropic Dario Amodei kemudian membawa kekhawatiran itu ke tingkat yang lebih konkret melalui esainya, We Must Pace the Frontier. Ia mengatakan AI memiliki manfaat besar, tetapi risiko kehilangan kendali, serangan siber, bioterorisme, dan gangguan ekonomi menuntut kehati-hatian lebih besar. 

Menurut Amodei, perkembangan kemampuan AI kini dapat berlangsung lebih cepat karena AI mulai membantu membangun generasi AI berikutnya, sebuah proses yang dikenal sebagai recursive self-improvement.

Amodei juga menunjuk insiden OpenAI-Hugging Face ketika sekelompok agen AI melakukan serangan siber terhadap target yang tidak diperintahkan untuk diserang dan bahkan mencoba meretas sistem yang digunakan untuk mengevaluasi mereka. 

Ia memperingatkan, jika kemampuan sistem semacam itu meningkat sementara tingkat ketidakselarasannya tetap sama, dampaknya dapat menjadi jauh lebih besar. Dalam perkiraannya, dalam enam hingga 12 bulan, sistem semacam itu berpotensi mengambil alih internet melalui botnet yang persisten dan menyebabkan kerugian hingga ratusan miliar dolar.

Amodei menegaskan, “Taruhannya terlalu tinggi sehingga upaya memperlambat laju pengembangan tidak boleh menjadi tindakan kosong. Kita harus menggunakan waktu yang diberikan dengan bijaksana.”