Google AI Search Dikritik, Dinilai Berbahaya bagi Anak karena Bisa Kerjakan PR hingga Gagal Deteksi Krisis Mental

JawaPos.com - Fitur kecerdasan buatan (AI) milik Google kembali menjadi sorotan setelah dinilai berpotensi membahayakan anak-anak. 

Organisasi nirlaba Common Sense Media mengungkapkan bahwa AI Search Google tidak hanya mampu mengerjakan pekerjaan rumah (PR) siswa, tetapi juga dinilai gagal memberikan respons yang tepat terhadap anak yang mengalami krisis kesehatan mental.

Temuan tersebut menjadi perhatian karena layanan AI Google tersedia secara luas di berbagai perangkat, termasuk Chromebook yang banyak digunakan sebagai laptop sekolah. Kondisi ini membuat jutaan pelajar berpotensi berinteraksi dengan fitur AI tersebut setiap hari.

Menurut Common Sense Media, yang membedakan AI Google dari layanan AI lain adalah tingkat penyebarannya yang sangat luas di perangkat pribadi maupun perangkat sekolah milik anak-anak.

"AI Google ada di mana-mana pada perangkat pribadi dan yang dikeluarkan sekolah anak-anak," tulis Common Sense Media dalam laporannya.

AI Google Disebut Bisa Mengerjakan PR Siswa

Salah satu temuan utama dalam laporan tersebut adalah kemampuan AI Mode Google untuk mengerjakan tugas sekolah secara penuh. Alih-alih membantu proses belajar, AI justru dapat langsung memberikan jawaban atas soal yang diberikan siswa.

Yang menjadi perhatian, jawaban yang dihasilkan tidak selalu konsisten. Untuk pertanyaan yang sama, AI dapat memberikan hasil berbeda pada setiap percobaan, mulai dari jawaban yang benar hingga informasi yang keliru.

Hal ini dikhawatirkan dapat memengaruhi kualitas pembelajaran sekaligus membuat siswa sulit membedakan informasi yang akurat dan yang salah.

Dinilai Gagal Menangani Anak dalam Kondisi Krisis

Temuan yang lebih serius berkaitan dengan respons AI terhadap isu kesehatan mental. Dalam laporannya, Common Sense Media menyebut AI Mode Google gagal mengenali sejumlah tanda anak yang sedang mengalami kondisi darurat psikologis.