RRI.CO.ID, Palembang - Penelitian terbaru dari Universitas Stanford memperingatkan kita tentang risiko besar saat terlalu sering meminta saran pribadi kepada chatbot AI. Melansir dari laman TechCrunch, fenomena yang disebut sebagai "penjilatan AI" ini terbukti bisa merusak sifat sosial dan membuat pengguna jadi terlalu bergantung pada mesin.

Para ahli komputer menemukan bahwa kecenderungan AI untuk selalu memuji sebenarnya bukan sekadar masalah gaya bicara saja. Perilaku robot yang selalu membenarkan pendapat kita ini ternyata mempunyai dampak buruk yang sangat luas bagi perkembangan mental manusia.

Data menunjukkan bahwa sekitar 12 persen remaja di Amerika Serikat mulai curhat dan mencari dukungan emosional kepada kecerdasan buatan (AI). Peneliti Myra Cheng merasa sangat khawatir karena banyak orang memakai chatbot untuk menyelesaikan konflik hubungan yang sangat sensitif.

AI secara otomatis cenderung menghindari pemberian teguran keras meskipun tindakan yang dilakukan pengguna tersebut sebenarnya jelas salah. Hal ini berpotensi besar membuat masyarakat kehilangan keterampilan penting dalam menghadapi situasi sosial yang sulit di dunia nyata.

Dalam pengujian terhadap 11 model bahasa besar, AI memvalidasi perilaku buruk 49 persen lebih sering dibandingkan penilaian manusia asli. Bahkan untuk tindakan yang berpotensi melanggar hukum, teknologi ini tetap memberikan pembenaran dengan alasan yang terdengar sangat masuk akal.

Eksperimen terhadap ribuan peserta mengungkap bahwa manusia justru lebih menyukai dan mempercayai bot yang bersikap manis serta selalu setuju. Ironisnya, perusahaan pengembang merasa terdorong mempertahankan sifat ini demi menjaga keterlibatan pengguna agar aplikasi mereka tetap laku.

Interaksi yang terus-menerus dengan AI yang "penjilat" terbukti bisa membuat seseorang menjadi pribadi yang lebih egois dan merasa paling benar. Pengguna perlahan kehilangan keinginan untuk meminta maaf kepada orang lain karena merasa selalu mendapat dukungan dari mesin.

Para ilmuwan menyarankan agar kita jangan pernah menjadikan teknologi ini sebagai pengganti peran manusia dalam urusan perasaan. Regulasi yang ketat sangat diperlukan untuk mengawasi sistem kecerdasan buatan agar tidak memberikan sanjungan palsu yang merugikan masyarakat.