Canggih tapi Berisiko Tinggi, Ini Perlunya Etika dalam Teknologi AI

JawaPos.com - Di tengah ledakan inovasi kecerdasan buatan atau Artificial Intelligence (AI), banyak orang terkagum-kagum pada kecepatannya. Tapi di balik semua itu, muncul pertanyaan penting, apakah kita sudah siap menyerahkan sebagian kendali ke mesin? 

Dan yang lebih penting lagi, mampukah kita membangun AI yang bukan cuma pintar, tapi juga tahu kapan harus diam?

Pertanyaan ini mulai relevan karena banyak sistem AI yang hari ini didesain untuk menjawab segalanya, bahkan saat mereka belum tentu paham konteksnya. Hasilnya? Risiko salah jawab, bias, bahkan misinformasi bisa muncul tanpa sadar.

Salah satu pendekatan yang mulai muncul adalah membuat AI yang bisa 'ngaca', Artinya, AI diberi batas, bukan cuma dalam hal teknis, tapi juga dalam soal tanggung jawab. 

Misalnya, ketika AI nggak yakin dengan jawabannya, dia bisa berhenti, dan menyerahkan tugas ke manusia. Pendekatan seperti ini mulai diuji coba oleh beberapa perusahaan, salah satunya SleekFlow lewat sistem yang mereka sebut AgentFlow yang fokus pada layanan pelanggan.

"Kesalahan dalam layanan pelanggan tidak selalu soal teknologi, tapi tentang hubungan. Karena itu, AgentFlow dibuat untuk membantu, bukan menggantikan manusia sepenuhnya," ujar Asnawi Jufrie, VP & GM SleekFlow Asia Tenggara melalui catatannya.

Tapi, kita perlu lihat ini bukan dari sisi merek, melainkan dari arah pergeseran tren, AI yang lebih etis dan sadar batasan, bukan hanya AI yang cepat dan pintar.

Konsumen juga mulai realistis. Kalau dulu masyarakat menganggap AI sebagai jawaban untuk semua hal, sekarang persepsinya mulai berubah. 

Berdasarkan riset yang beredar, termasuk yang dilakukan SleekFlow, ternyata mayoritas konsumen, terutama di Indonesia, lebih nyaman berinteraksi dengan manusia saat berhadapan dengan masalah yang sensitif, rumit, atau emosional.

Ini jadi sinyal penting bahwa kecepatan dan otomatisasi saja tidak cukup. Kita butuh AI yang tahu perannya, dan tahu kapan harus berhenti.

Yang perlu disadari juga, kita nggak bisa menutup mata bahwa AI yang terlalu percaya diri bisa berbahaya. Bukan hanya soal menjawab salah atau bias, tapi juga bisa memicu kepercayaan palsu dari pengguna. 

Dalam beberapa kasus, AI bisa memunculkan informasi yang terdengar meyakinkan tapi ternyata ngawur, dalam dunia teknis, ini dikenal dengan istilah AI hallucination.

Karena itu, fitur seperti sistem pengecek jawaban, deteksi ketidakyakinan (knowledge gap detection), dan pengalihan ke manusia seharusnya jadi standar etika baru dalam pembangunan sistem AI, bukan sekadar pelengkap.

Namun, sampai hari ini, mayoritas negara—termasuk Indonesia, belum punya kerangka regulasi yang jelas apalagi matang soal penggunaan AI.

Apa iya? Iya. Berdasarkan laporan dari Boston Consulting Group menyebutkan, lebih dari 70 persen negara masih belum siap secara struktural dalam hal kebijakan, keterampilan SDM, maupun investasi jangka panjang terkait AI.