JawaPos.com - Fitur kecerdasan buatan (AI) milik Google kembali menjadi sorotan setelah dinilai berpotensi membahayakan anak-anak. 

Organisasi nirlaba Common Sense Media mengungkapkan bahwa AI Search Google tidak hanya mampu mengerjakan pekerjaan rumah (PR) siswa, tetapi juga dinilai gagal memberikan respons yang tepat terhadap anak yang mengalami krisis kesehatan mental.

Temuan tersebut menjadi perhatian karena layanan AI Google tersedia secara luas di berbagai perangkat, termasuk Chromebook yang banyak digunakan sebagai laptop sekolah. Kondisi ini membuat jutaan pelajar berpotensi berinteraksi dengan fitur AI tersebut setiap hari.

Menurut Common Sense Media, yang membedakan AI Google dari layanan AI lain adalah tingkat penyebarannya yang sangat luas di perangkat pribadi maupun perangkat sekolah milik anak-anak.

"AI Google ada di mana-mana pada perangkat pribadi dan yang dikeluarkan sekolah anak-anak," tulis Common Sense Media dalam laporannya.

AI Google Disebut Bisa Mengerjakan PR Siswa

Salah satu temuan utama dalam laporan tersebut adalah kemampuan AI Mode Google untuk mengerjakan tugas sekolah secara penuh. Alih-alih membantu proses belajar, AI justru dapat langsung memberikan jawaban atas soal yang diberikan siswa.

Yang menjadi perhatian, jawaban yang dihasilkan tidak selalu konsisten. Untuk pertanyaan yang sama, AI dapat memberikan hasil berbeda pada setiap percobaan, mulai dari jawaban yang benar hingga informasi yang keliru.

Hal ini dikhawatirkan dapat memengaruhi kualitas pembelajaran sekaligus membuat siswa sulit membedakan informasi yang akurat dan yang salah.

Dinilai Gagal Menangani Anak dalam Kondisi Krisis

Temuan yang lebih serius berkaitan dengan respons AI terhadap isu kesehatan mental. Dalam laporannya, Common Sense Media menyebut AI Mode Google gagal mengenali sejumlah tanda anak yang sedang mengalami kondisi darurat psikologis.

Organisasi tersebut menyatakan AI Google "Anak-anak yang gagal dalam krisis, termasuk kehilangan tanda-tanda ide bunuh diri yang jelas, memperkuat tanda-tanda psikosis dan mania, memvalidasi makan yang tidak teratur termasuk membersihkan dan merayakan penggunaan ganja."

Artinya, AI disebut tidak mampu mendeteksi indikasi bunuh diri secara jelas, bahkan dalam beberapa kasus justru memperkuat gejala psikosis dan mania, membenarkan perilaku gangguan makan seperti memuntahkan makanan (purging), serta memberikan respons yang dianggap mendukung penggunaan ganja.

AI Mode dan AI Overview Tidak Bisa Dinonaktifkan

Laporan itu juga menyoroti dua fitur AI Google yang kini tersedia di mesin pencari. AI Mode merupakan antarmuka berbasis chatbot yang muncul ketika pengguna memilih tombol 'AI Mode'. Sementara itu, AI Overview akan muncul secara otomatis di halaman hasil pencarian untuk sejumlah kueri tertentu.

Menurut Common Sense Media, salah satu persoalan utama adalah kedua fitur tersebut saat ini tidak menyediakan opsi untuk dinonaktifkan, sehingga pengguna, termasuk anak-anak, tetap akan terpapar hasil berbasis AI saat menggunakan Google Search.

Nilai Google AI Buruk dalam Pengujian

Secara keseluruhan, Common Sense Media menyatakan fitur AI Google menunjukkan performa yang kurang memuaskan dalam evaluasi mereka.

Berdasarkan pengujian terhadap delapan prinsip AI yang digunakan organisasi tersebut, fitur AI Google hanya memenuhi satu indikator dan dinilai gagal pada tujuh dari delapan prinsip yang menjadi standar penilaian.

Temuan ini menambah daftar kritik terhadap perusahaan teknologi besar yang belakangan semakin banyak mendapat pengawasan dari regulator dan berbagai organisasi terkait perlindungan anak di dunia digital, terutama seiring pesatnya adopsi teknologi kecerdasan buatan dalam layanan yang digunakan masyarakat luas.