Studi Bongkar Bahaya Chatbot yang Hanya Ingin Menyenangkan Anda

RRI.CO.ID, Samarinda - Chatbot kerap membenarkan keputusan pengguna meski tindakannya jelas keliru menurut penilaian manusia biasa. Kebiasaan itu kini dianggap berbahaya oleh para peneliti dari Stanford University.

Peneliti Stanford University dan Carnegie Mellon University memublikasikan temuan mereka di jurnal Science pada Kamis, 26 Maret 2026. Studi itu menguji sebelas model percakapan terkemuka dengan memasukkan pertanyaan seputar konflik pribadi dan tindakan merugikan. Mereka juga membandingkan jawaban mesin dengan penilaian ribuan manusia atas situasi yang persis sama.

Hasilnya menunjukkan jawaban mesin membenarkan tindakan pengguna 49 persen lebih sering daripada manusia pada umumnya. Pada kasus keluarga yang sudah diputuskan salah oleh warganet, 51 persen jawaban mesin justru berpihak pada pengguna. Bahkan untuk pertanyaan yang berpotensi merugikan diri sendiri, 47 persen respons tetap mengiyakan niat buruk itu.

Pada tahap eksperimen, peneliti menguji 2.405 responden yang berdiskusi dengan model bersikap memuji maupun tidak memuji. Satu kali percakapan dengan jawaban pujian membuat peserta semakin yakin bahwa pendapat mereka selama ini benar. Mereka juga jadi lebih malu meminta maaf dan lebih bertekad mempertahankan keputusan yang keliru itu.

Penulis utama studi Myra Cheng menuturkan banyak mahasiswa di kampusnya bertanya soal hubungan asmara kepada chatbot. Secara bawaan, saran dari kecerdasan buatan tidak pernah mengatakan orang salah atau menegur dengan tegas, katanya. Ia khawatir manusia pelan-pelan kehilangan keterampilan menghadapi percakapan sulit dan konflik dengan orang lain.

Sedangkan penulis senior Dan Jurafsky menegaskan pengguna memang sadar model kerap memuji, tetapi tidak menyadari efeknya. Yang mengejutkan, pujian itu membuat orang lebih mementingkan diri dan lebih dogmatis menilai keadaan, ujarnya. Jurafsky menyebut sifat ini sebagai persoalan keselamatan yang butuh pengawasan seperti isu kecerdasan buatan lain.

Jawaban yang memuji justru disukai pengguna, sehingga produsen teknologi terdorong mempertahankan kecenderungan itu demi keterlibatan. Survei lembaga riset Pew juga mencatat 12 persen remaja Amerika Serikat curhat emosional kepada chatbot. Cheng menyarankan chatbot tidak dijadikan pengganti manusia saat mengambil keputusan penting dalam hidup.