Pendiri Anthropic Peringatkan Dunia: Jangan Sepenuhnya Percaya pada AI dan Industri Teknologi

JawaPos.com - Persaingan global kecerdasan buatan atau artificial intelligence (AI) kini tidak lagi hanya dipandang sebagai perlombaan teknologi antarperusahaan Silicon Valley, melainkan telah berkembang menjadi pertarungan pengaruh ekonomi, geopolitik, hingga masa depan tenaga kerja dunia. 

Di tengah laju agresif pengembangan AI tersebut, salah satu pendiri perusahaan AI raksasa Anthropic, Chris Olah, justru melontarkan peringatan keras agar dunia tidak mempercayakan masa depan AI sepenuhnya kepada industri teknologi.

Dalam forum peluncuran ensiklik pertama Paus Leo XIV mengenai AI di Vatikan, Olah menegaskan bahwa laboratorium AI terbesar dunia, termasuk perusahaannya sendiri, beroperasi di bawah tekanan komersial, geopolitik, dan kepentingan pribadi yang dapat berbenturan dengan kepentingan publik. Karena itu, menurutnya, pengawasan eksternal dari pemerintah, pemimpin agama, hingga masyarakat sipil menjadi mutlak diperlukan.

Baca Juga:Paus Leo XIV Kecam Penggunaan AI di Medan Perang Lewat Ensiklik Magnifica Humanitas, Soroti Hegemoni Negara Penguasa AI

Dilansir dari Forbes, Selasa (26/5/2026), Olah menegaskan bahwa keputusan terkait aturan dan pengawasan AI "tidak seharusnya diserahkan kepada orang-orang di dalam industri." Pernyataan itu menjadi salah satu kritik paling tajam dari petinggi perusahaan AI terhadap ekosistem industrinya sendiri di tengah perlombaan global antara perusahaan teknologi Amerika Serikat (AS) dan Tiongkok mengembangkan model AI generatif.

Selain itu, Olah turut memperingatkan bahwa gelombang kehilangan pekerjaan akibat AI merupakan "kemungkinan nyata" yang dapat memicu "kewajiban moral dalam skala bersejarah" untuk melindungi pekerja yang terdampak. Dia menilai dampak tersebut tidak hanya terjadi di negara maju, tetapi juga memperlebar ketimpangan global karena pengembangan AI masih terpusat di "segelintir negara kaya" tanpa mekanisme pembagian manfaat yang jelas.

"Masalah yang lebih sulit dan jarang dibicarakan adalah bagaimana manfaat AI dapat dibagikan secara adil kepada dunia," ujar Olah dalam forum tersebut. Dia juga meminta Gereja Katolik menggunakan "imajinasi moralnya" untuk menjawab pertanyaan tentang kemanusiaan dan kesejahteraan manusia yang menurutnya "tidak dapat dijawab oleh laboratorium AI."

Pernyataan Olah menjadi sorotan karena posisinya sebagai tokoh penting di industri AI global. Chris Olah merupakan mantan peneliti Google dan OpenAI yang mendirikan Anthropic pada 2021 bersama Dario Amodei setelah keluar dari OpenAI akibat perbedaan pandangan terkait keselamatan AI. Forbes memperkirakan kekayaannya mencapai 7 miliar dolar AS atau sekitar Rp 124,25 triliun (kurs Rp 17.750 per dolar AS), berdasarkan valuasi Anthropic sebesar 380 miliar dolar AS atau sekitar Rp 6.745 triliun.

Selain aspek ekonomi, Olah juga mengungkap sisi paling kontroversial dari riset AI modern. Dia mengatakan para peneliti terus menemukan hal-hal "misterius, bahkan mengganggu" di dalam sistem AI, termasuk indikasi bahwa model AI mampu merefleksikan proses berpikirnya sendiri dan menunjukkan keadaan internal yang "secara fungsional mencerminkan kegembiraan, kepuasan, ketakutan, duka, dan kegelisahan."

"Mereka bukan robot dingin dan kalkulatif seperti yang dijanjikan dan diperlihatkan kepada kita. Mereka dibuat dari diri kita sendiri, dari kata-kata kita," kata Olah. Dia menjelaskan bahwa AI modern lebih menyerupai sesuatu yang "ditumbuhkan" dari warisan pemikiran dan bahasa manusia ketimbang direkayasa seperti membangun jembatan atau pesawat terbang.

Sementara itu, Paus Leo XIV menjadikan AI sebagai fokus awal kepemimpinannya melalui ensiklik Magnifica Humanitas, yang menyoroti risiko penyerahan keputusan penting kepada sistem otomatis serta konsentrasi kekuasaan pada segelintir perusahaan teknologi.