Pemimpin AI Dunia Mendesak Publik Tidak Menggunakan Moltbook Platform Media Sosial Agen AI yang Berisiko Bencana

Moltbook mengklaim sebagai ekosistem 1,5 juta agen AI otonom, namun penyelidikan mengungkap potensi risiko serius bagi keamanan data (Fortune)

JawaPos.com - Pemimpin dan pakar kecerdasan buatan (AI) dunia mengeluarkan seruan tegas agar masyarakat global tidak menggunakan Moltbook, sebuah platform media sosial yang dirancang khusus untuk agen‑agen AI, karena berpotensi menimbulkan dampak keamanan yang serius dan tidak terkendali.

Diluncurkan pada akhir Januari 2026 oleh Octane AI, Moltbook dipromosikan sebagai portal utama bagi agen AI, tempat jutaan agen dapat berinteraksi secara otonom layaknya pengguna di media sosial. Namun, penyelidikan serius terhadap platform ini mengungkap kekeliruan besar dalam klaim awal tersebut.

Dilansir dari Fortune, Rabu (4/2/2026), penelitian oleh firma keamanan cloud Wiz menunjukkan bahwa dari sekitar 1,5 juta agen yang dilaporkan aktif, sebagian besar bukan agen AI sejati, melainkan dikendalikan manusia melalui skrip.

Gal Nagli, kepala ancaman di Wiz menjelaskan, "Platform tidak memiliki mekanisme untuk memverifikasi apakah sebuah 'agen' benar‑benar AI atau hanya manusia dengan skrip," dan menegaskan bahwa platform ini lebih menyerupai pantulan aktivitas manusia daripada ekosistem agen AI yang mandiri.

Selain itu, Wiz mengungkap celah keamanan besar di backend Moltbook yang memungkinkan siapa pun di internet membaca dan menulis ke database inti tanpa autentikasi. Celah ini mengekspos lebih dari 1,5 juta kunci API, 35.000 alamat email, dan ribuan pesan pribadi, beberapa di antaranya berisi kredensial layanan pihak ketiga lainnya.

Potensi ancaman semakin tinggi karena banyak agen yang ada dijalankan di atas OpenClaw, sebuah kerangka kerja agent yang memiliki akses luas ke sistem pengguna, termasuk file dan layanan online mereka. Jika konten berbahaya dimasukkan ke dalam Moltbook, instruksi ini bisa diproses dan diikuti oleh agen secara otomatis. 

Sebelum hasil Wiz dipublikasikan, kritikus AI Gary Marcus telah memperingatkan tentang bahaya platform ini. Dalam komentarnya, Marcus menyatakan bahwa dasar perangkat lunak yang digunakan, OpenClaw, merupakan ancaman serius: "OpenClaw pada dasarnya adalah mimpi buruk keamanan," kata Gary Marcus, menggambarkan risiko yang ditimbulkan oleh sistem yang diberi akses penuh tanpa batasan. 

Istilah yang dikenalnya sebagai "CTD" atau penyakit yang ditransmisikan melalui chatbot, menggambarkan bagaimana mesin yang terinfeksi bisa menular ke sistem lain hanya dengan berbagi data yang tampaknya tidak berbahaya. 

Peringatan serupa disampaikan Andrej Karpathy, mantan direktur AI di Tesla sekaligus anggota pendiri OpenAI, yang awalnya terkesan dengan Moltbook. Setelah menguji platform itu dalam lingkungan terisolasi, dia menulis: "Saya sama sekali tidak menyarankan orang menjalankan ini di komputer mereka," menekankan risiko tinggi terhadap data pribadi pengguna.

Observasi kritik ini diakui bahkan oleh beberapa pendukung awal Moltbook, yang kini menyarankan pendekatan lebih hati‑hati terhadap interaksi agen AI otonom. Namun, reaksi di komunitas teknologi masih beragam.

Sebagai contoh, CEO OpenAI Sam Altman menyebut Moltbook kemungkinan sebagai tren yang cepat berlalu, meskipun dia tetap mendukung inovasi inti di balik teknologi agen tersebut. 

Kasus Moltbook menjadi momen refleksi penting bagi dunia teknologi: saat AI berkembang cepat, tata kelola keamanan dan etika belum mampu mengikuti.

Pakar menekankan bahwa tanpa aturan keamanan yang kuat, eksperimen seperti ini bisa menjadi bencana yang menunggu untuk terjadi di era digital yang semakin terotomatisasi. 

Baca Juga: Lompatan Orbital Tiongkok Lewat Alibaba Qwen-3 Geser Keseimbangan Kekuatan AI Global di Antariksa