Mengenal AI Hallucination, saat Jawaban AI Terdengar Meyakinkan tapi Keliru

RRI.CO.ID, Makassar - Kecerdasan buatan atau Artificial Intelligence (AI) dikenal mampu memberikan jawaban dengan cepat dan terdengar meyakinkan. Namun, jawaban yang dihasilkan AI tidak selalu sesuai dengan fakta. Fenomena tersebut dikenal sebagai AI hallucination, sebagaimana dijelaskan Kementerian Komunikasi dan Digital (Komdigi) melalui unggahan di akun Instagram resminya.

Komdigi menjelaskan, AI hallucination merupakan kondisi ketika AI menghasilkan informasi yang terdengar masuk akal, tetapi sebenarnya salah, tidak sesuai fakta, atau bahkan dibuat-buat. Dengan kata lain, jawaban AI dapat terdengar sangat yakin meskipun informasi yang diberikan belum tentu benar.

Kondisi tersebut dapat terjadi karena AI generatif bekerja dengan mempelajari pola dari berbagai data selama proses pelatihan. Setelah itu, AI menghasilkan respons berdasarkan pola yang telah dipelajarinya. AI tidak selalu memiliki kemampuan untuk memastikan bahwa setiap informasi yang disampaikan benar secara faktual.

Komdigi juga menjelaskan, keterbatasan konteks atau informasi yang tersedia dapat menjadi salah satu kondisi ketika AI tetap menghasilkan jawaban yang terdengar meyakinkan. Hal ini membuat pengguna perlu berhati-hati, terutama ketika menggunakan informasi dari AI untuk kebutuhan yang membutuhkan ketepatan fakta.

AI hallucination dapat muncul dalam berbagai bentuk. Komdigi mencontohkan, AI dapat membuat sumber atau referensi yang sebenarnya tidak ada, menghasilkan statistik yang tidak benar, hingga memberikan fakta atau tanggal yang keliru.

Selain itu, AI juga dapat menghasilkan nama, tempat, atau peristiwa yang sebenarnya tidak pernah ada. Informasi tersebut bisa terlihat meyakinkan karena disampaikan dengan struktur kalimat yang rapi dan bahasa yang seolah-olah menunjukkan kepastian.

Karena itu, Komdigi mengingatkan masyarakat untuk tidak langsung mempercayai informasi hanya karena jawaban AI terdengar pintar atau meyakinkan. Pengguna perlu melakukan verifikasi sebelum menggunakan informasi yang dihasilkan AI.

Langkah yang dapat dilakukan antara lain mengecek informasi melalui sumber terpercaya, membandingkannya dengan sumber lain, serta melakukan verifikasi kembali terhadap informasi yang diberikan AI. Dengan demikian, penggunaan AI tetap dapat dilakukan secara kritis dan tidak menjadikan jawaban AI sebagai satu-satunya acuan kebenaran.