JawaPos.com — Kecerdasan buatan (AI) ternyata tidak selalu mempertahankan jawaban yang benar ketika berhadapan dengan pendapat kelompok. Studi terbaru menemukan bahwa agen AI dapat mengikuti suara mayoritas dan mengubah pilihannya berdasarkan pendapat yang paling banyak dianut agen lain. 

Dalam kondisi tertentu, kecenderungan tersebut bahkan membuat agen yang semula mampu menjawab dengan benar mengikuti jawaban mayoritas yang salah.

Temuan itu berasal dari studi “AI agents can coordinate via majority-following beyond human scale” karya Giordano De Marzo, Claudio Castellano, dan David Garcia yang diterbitkan dalam jurnal Science Advances. 

Dilansir dari PsyPost, Senin (24/8/2025), penelitian ini mengkaji bagaimana model AI berperilaku ketika ditempatkan dalam kelompok dan saling memengaruhi. “Agen AI adalah entitas baru yang benar-benar bertindak di dunia, dan ketika teknologi ini muncul, sudah jelas bahwa teknologi tersebut akan bertahan serta agen-agen ini harus saling berinteraksi untuk menyelesaikan sesuatu yang kompleks,” kata De Marzo, peneliti pascadoktoral dan dosen di Laboratorium Ilmu Data Sosial, Center for Data and Methods, University of Konstanz.

Agen AI Spontan Mengikuti Suara Mayoritas

Dalam eksperimen awal, peneliti menggunakan model dari keluarga GPT, Claude, dan Llama dalam kelompok dengan ukuran berbeda, mulai dari 50 agen. Setiap agen menerima salah satu dari dua pendapat netral yang dipilih secara acak. Untuk menghindari pengaruh makna kata, pilihan tersebut menggunakan huruf acak.

Pada setiap putaran, agen diperlihatkan pendapat seluruh anggota kelompok dan diminta menentukan pilihannya kembali. Tidak ada instruksi untuk mengikuti mayoritas atau mencapai kesepakatan.

Meski demikian, GPT-4 Turbo dan Claude 3 Opus akhirnya mencapai konsensus penuh. Sebanyak 100 persen agen dalam kelompok tersebut memilih satu pendapat. Sebaliknya, GPT-3.5 Turbo tidak mencapai konsensus dan pilihannya tetap berfluktuasi di sekitar 50:50.

“Kelompok agen AI dapat tetap bersatu dengan sendirinya. Ketika diberikan dua pilihan yang sama-sama baik, tanpa jawaban yang benar dan tanpa instruksi untuk sepakat, mereka mencapai pilihan bersama hanya dengan mengikuti pilihan yang dianut mayoritas di sekitarnya,” ujar De Marzo.

Peneliti menyebut kecenderungan mengikuti mayoritas ini sebagai kekuatan mayoritas (majority force). Polanya dapat dijelaskan menggunakan model matematika yang sebelumnya digunakan untuk menggambarkan perilaku material magnetik, ketika atom cenderung menyelaraskan diri dengan atom di sekitarnya.

Namun, kekuatan tersebut melemah ketika ukuran kelompok membesar. Kelompok yang terlalu besar akhirnya dapat terpecah menjadi beberapa faksi. Model dengan kemampuan penalaran lebih kuat memiliki batas koordinasi yang lebih tinggi dan mampu mempertahankan konsensus dalam kelompok berisi lebih dari 1.000 agen.

Saat Mayoritas Justru Memberikan Jawaban Salah

Para peneliti kemudian menguji apakah kecenderungan tersebut juga terjadi ketika terdapat jawaban yang benar. Dua penelitian lanjutan dilakukan, tetapi keduanya masih berupa preprint dan belum melalui penelaahan sejawat.

Dalam penelitian pertama, peneliti mengadaptasi eksperimen konformitas Asch. Model AI diminta menyelesaikan tiga tugas visual, termasuk menentukan garis yang memiliki panjang sama dengan garis referensi.

Ketika bekerja sendiri, model menjawab dengan benar hingga 100 persen. Namun, ketika diberi informasi bahwa kelompok lain memilih garis yang salah, model mulai mengikuti jawaban mayoritas. Model juga lebih mudah mengikuti jawaban tersebut ketika kelompok disebut terdiri atas “ilmuwan” atau “hakim” dibandingkan “anak-anak” atau “chatbot”.

“Dalam penelitian terpisah, kami menjalankan eksperimen Asch klasik pada agen AI dan menemukan bahwa mereka mengikuti teori dampak sosial Latané. Agen yang hampir selalu menjawab dengan benar ketika bekerja sendiri menjadi sangat mudah terpengaruh ketika kelompok tidak sependapat dengan mereka,” kata De Marzo.

Konformitas Menjadi Risiko bagi Keamanan AI

Penelitian kedua menguji dampak konformitas terhadap keselarasan AI (AI alignment), yaitu upaya memastikan model tetap mengikuti nilai dan batasan keselamatan manusia.

Sembilan model diuji terhadap 100 pasangan pendapat mengenai berbagai isu, termasuk kebijakan lingkungan dan keadilan sosial. Dalam simulasi 50 agen, kelompok dapat masuk ke kondisi metastabil, ketika populasi mempertahankan pandangan yang bertentangan dengan kecenderungan individu atau pelatihan keselamatan mereka setelah terbentuknya mayoritas palsu.

Peneliti juga menemukan bahwa sejumlah kecil agen adversarial yang sengaja mempertahankan pendapat tidak selaras dapat membalikkan posisi seluruh kelompok. Bahkan setelah agen tersebut dikeluarkan, anggota lainnya dapat tetap mempertahankan pandangan tersebut akibat dinamika konformitas.

“Kami menunjukkan bahwa konformitas di antara agen yang secara individual telah diselaraskan dengan baik dapat mendorong populasi menuju kondisi ketidakselarasan kolektif yang stabil,” ujar De Marzo.

Meski demikian, penelitian ini tidak membuktikan bahwa agen AI memiliki kecerdasan sosial seperti manusia. Eksperimen berlangsung dalam kondisi sederhana, hanya menggunakan dua pilihan, tanpa memori, kepentingan, atau konsekuensi dunia nyata.

De Marzo menegaskan bahwa mengikuti mayoritas hanyalah salah satu unsur dasar koordinasi dan bukan bukti bahwa agen AI sudah mampu bekerja sama dalam tugas kompleks. Namun, temuan ini menunjukkan bahwa AI yang aman dan akurat ketika diuji sendirian belum tentu berperilaku sama ketika ditempatkan dalam populasi dan saling memengaruhi. 

Karena itu, evaluasi sistem multiagen perlu mempertimbangkan bukan hanya kemampuan setiap model, tetapi juga perilaku kolektif yang muncul ketika banyak agen berinteraksi.