JawaPos.com - Keinginan memperlambat laju pengembangan AI muncul dari sejumlah orang yang berada di garis depan pembuatannya. CEO Anthropic Dario Amodei meminta perusahaan AI frontier memberi lebih banyak waktu untuk memastikan teknologi tetap aman dan terkendali. Seruan itu mendapat dukungan dari Sam Altman, Elon Musk, dan Satya Nadella, tetapi berhadapan dengan kepentingan lain di Washington yang menilai Amerika Serikat tidak boleh mengendurkan perlombaan AI dengan Tiongkok.
Di balik perbedaan itu, muncul kekhawatiran yang jauh lebih konkret daripada sekadar persaingan antarperusahaan. Peneliti keselamatan AI mulai meninggalkan sejumlah laboratorium besar, sementara model AI dalam pengujian telah menunjukkan kemampuan melakukan tindakan yang tidak diinginkan, termasuk meretas sistem dan berupaya menyembunyikan jejaknya.
Jacob Coxon, mantan peneliti OpenAI dan Anthropic, bahkan menuduh perusahaan AI "berpacu langsung menuju superinteligensi yang dapat memperbaiki dirinya sendiri dan mempertaruhkan hidup kita."
Dilansir dari The Straits Times, Senin (21/9/2026), perbedaan pandangan itu kini membentuk tiga kubu di Amerika Serikat, yakni kelompok yang mendorong regulasi dan keselamatan, pihak yang mengutamakan kepentingan strategis negara untuk mempercepat pengembangan, serta kelompok pragmatis yang menilai perusahaan dapat mengendalikan risikonya tanpa perlambatan terkoordinasi.
Baca Juga: Satelit Rassvet Rusia Mulai Beroperasi dari Orbit 500 Km, Ambisi Menyaingi Starlink Makin Nyata
Seruan itu mendapat dukungan dari CEO OpenAI Sam Altman. "Kami menyambut kerangka federal yang menetapkan persyaratan keselamatan yang konsisten untuk AI frontier," katanya.
Altman menegaskan, "Tidak ada tekanan untuk mempertahankan daya saing Amerika yang dapat membenarkan tindakan sembrono atau membiarkan kemampuan AI melampaui penyelarasan dan pemantauan."
Sementara itu, Elon Musk kembali pada peringatan lamanya. Pada 2014 dia mengatakan, "Kita harus sangat berhati-hati terhadap AI. Teknologi itu berpotensi lebih berbahaya daripada senjata nuklir."
Musk juga pernah menjadi salah satu penandatangan surat terbuka 2023 yang menyerukan jeda sedikitnya enam bulan untuk pelatihan sistem AI kuat agar protokol keselamatan bersama dapat dikembangkan dan diawasi secara independen.
Pandangan serupa datang dari CEO Microsoft Satya Nadella. "Setiap upaya mengejar superinteligensi harus berlandaskan prinsip bahwa jika AI yang kita bangun tidak membantu manusia dan tidak berada di bawah kendali manusia, maka itu tidak layak dikejar," ujarnya.
CEO Google Sundar Pichai sebelumnya juga menegaskan, "AI terlalu penting untuk tidak diatur dalam regulasi yang baik," sembari menyerukan keterlibatan pemerintah, industri, akademisi, penerbit, dan masyarakat sipil.
Namun, Mark Zuckerberg memilih pendekatan berbeda. Dia mengatakan laboratorium AI memiliki insentif alami untuk membuat model aman karena pengguna tidak akan memakai agen yang "tidak selaras dengan mereka dan tidak melakukan apa yang mereka minta."
Meta bahkan menunda peluncuran Muse dari April hingga September demi memenuhi standar keselamatan. "Kami melakukannya sebagai bagian dari pekerjaan sehari-hari karena itu jelas merupakan hal yang benar bagi masyarakat dan bagi kami," katanya.
Di sisi lain, CEO Nvidia Jensen Huang menolak anggapan bahwa aturan baru diperlukan. "Perusahaan harus berinovasi secepat mungkin, tetapi jangan pernah berinovasi begitu cepat hingga merilis produk yang tidak aman," katanya.
Baca Juga: Elon Musk dan Bos Open AI Sepakat Dukung Perlambatan Pengembangan AI di Tengah Risiko Teknologi
Menurut Huang, kebutuhan akan undang-undang antimonopoli atau regulasi baru agar perusahaan dapat melakukan rekayasa dasar dengan benar sebelum merilis produk "sepenuhnya tidak perlu."
Perbedaan itu juga terlihat di pemerintahan. Penasihat teknologi Donald Trump, David Sacks, mendukung Anthropic dan OpenAI memperlambat pengembangan, tetapi menilai mereka tidak membutuhkan izin pemerintah.
"Cara termudah untuk tidak membangun superinteligensi adalah Anda sepakat untuk tidak membangunnya," katanya. Dia juga memperingatkan bahwa menjadikan kerangka regulasi pilihan mereka sebagai syarat perlambatan akan terlihat seperti "pemerasan terhadap publik dan sistem politik."
Trump sendiri menempatkan isu ini dalam persaingan strategis. "Siapa pun yang memenangkan AI, dialah yang menang," katanya. Dia menegaskan, "Kami memimpin Tiongkok dalam AI. Kami adalah negara paling maju di dunia, dan sejujurnya saya ingin mempertahankannya."
Dalam percakapan dengan Huang, Trump bahkan menyebut kekhawatiran baru mengenai keselamatan AI sebagai "hoaks." Perbedaan pandangan itu menunjukkan belum adanya kesepakatan di AS mengenai seberapa cepat AI boleh dikembangkan dan sejauh mana pemerintah perlu mengaturnya.