Kenapa AI Bisa Halusinasi dan Cara Menguranginya

Model AI bisa menjawab dengan sangat lancar dan meyakinkan, padahal isi jawabannya salah atau tidak didukung sumber mana pun. Fenomena ini disebut halusinasi, dan ia termasuk salah satu masalah paling mengganggu pada sistem AI generatif. Memahami kenapa hal itu terjadi adalah langkah pertama untuk memakai AI secara lebih kritis.

Apa itu halusinasi

Dalam bidang kecerdasan buatan, halusinasi adalah respons yang dihasilkan AI dan berisi informasi salah atau menyesatkan yang disajikan seolah-olah fakta. Istilah ini juga kadang disebut confabulation, fabrication, atau sekadar factual error oleh sebagian peneliti, karena kata "halusinasi" dianggap terlalu memanusiakan mesin.

Salah satu rumusan yang jelas datang dari Meta ketika merilis chatbot-nya: halusinasi berarti pernyataan yang diucapkan dengan yakin padahal tidak benar. Pada 2023, kamus Cambridge bahkan memperbarui definisi kata hallucination untuk menampung makna baru ini di dunia AI.

Dalam kajian natural language generation, definisinya dibuat lebih teknis. Sebuah ringkasan dianggap berhalusinasi jika mengandung bagian yang tidak didukung oleh dokumen sumbernya. Secara umum, generasi berbasis deep learning memang rentan menghasilkan teks yang tidak diniatkan, dan hal itu menurunkan performa sistem serta gagal memenuhi harapan pengguna di banyak skenario nyata.

Kenapa model yang memprediksi token bisa salah dengan yakin

Akar penyebabnya ada pada cara model dilatih. GPT-4, misalnya, adalah model berbasis Transformer yang dilatih untuk memprediksi token berikutnya dalam sebuah dokumen. Tugas dasarnya adalah melanjutkan teks, bukan memastikan kebenaran isi teks.

Karena pra-pelatihan model bahasa generatif bertumpu pada prediksi kata berikutnya, model terdorong untuk "memberi tebakan" soal kata berikutnya, bahkan ketika informasi yang dibutuhkannya tidak ada. Dorongan itu yang membuat model menghasilkan kelanjutan yang terdengar mulus, walau isinya keliru. Halusinasi juga bisa berasal dari dataset yang tidak lengkap, tidak akurat, atau tidak representatif.

Ada kabar baiknya. Proses penyelarasan setelah pelatihan terbukti meningkatkan performa pada ukuran faktualitas dan kepatuhan pada perilaku yang diinginkan. Artinya, langkah pasca-pelatihan seperti penyelarasan benar-benar membantu menekan kecenderungan berhalusinasi, meski belum menghilangkannya sepenuhnya.

Bahkan model terkuat pun masih berhalusinasi

Kemampuan model yang makin tinggi tidak otomatis menghapus halusinasi. GPT-4, misalnya, dilaporkan menunjukkan performa setara manusia pada berbagai benchmark profesional dan akademik, tetapi pada saat yang sama dinyatakan masih kurang mampu dibanding manusia di banyak skenario dunia nyata. Artinya, kepercayaan pada sebuah model tidak boleh hanya bertumpu pada skor benchmark.

Model yang tampak canggih tetap bisa keliru pada detail yang tidak dikuasainya. Justru karena jawabannya terdengar sangat meyakinkan, kesalahan itu sering lolos dari pemeriksaan. Inilah yang membuat halusinasi berbahaya: bukan hanya isinya salah, tetapi cara penyampaiannya membuat orang cenderung mempercayainya.

Halusinasi intrinsik dan ekstrinsik

Penelitian di bidang ini membedakan halusinasi menjadi dua jenis utama. Yang pertama, halusinasi intrinsik, yaitu keluaran yang bertentangan dengan isi sumber. Contohnya, sebuah ringkasan menyebut sesuatu yang berlawanan dengan fakta di dokumen aslinya.

Yang kedua, halusinasi ekstrinsik, yaitu keluaran yang tidak bisa diverifikasi oleh sumber. Informasi seperti ini belum tentu salah, tetapi tidak ada bukti pendukungnya di dalam sumber yang diberikan. Misalnya, sebuah jawaban menambahkan klaim yang sama sekali tidak disebutkan di dokumen rujukan, sehingga kita tidak bisa menemukan bukti untuk membenarkan atau menyalahkannya.

Pembedaan ini penting karena keduanya butuh strategi penanganan yang berbeda. Menurut survei, penelitian selama ini lebih banyak menyoroti halusinasi intrinsik, sementara halusinasi ekstrinsik cenderung kurang ditangani karena lebih sulit diredam.

Cara mengurangi halusinasi

Metode mitigasi yang umum bisa dikelompokkan menjadi dua: metode terkait data dan metode terkait pemodelan serta inferensi. Metode terkait data mencakup membangun dataset yang setia pada fakta, membersihkan data secara otomatis, dan pengayaan informasi dengan menambahkan sumber eksternal ke dalam input.

Metode pemodelan dan inferensi mencakup perubahan arsitektur, misalnya memodifikasi encoder, attention, atau decoder; perubahan proses pelatihan, termasuk memakai reinforcement learning; serta metode pasca-pemrosesan yang memperbaiki halusinasi pada keluaran akhir.

Salah satu pendekatan yang menonjol adalah Retrieval Augmented Generation (RAG), yang menggabungkan pengambilan informasi dari sumber luar dengan proses generasi. Retrieval terbukti cukup membantu dalam meningkatkan performa dan menekan halusinasi pada tugas-tugas yang berbasis pengetahuan.

Di luar model itu sendiri, grounding dan verifikasi memainkan peran besar. Grounding berarti memastikan setiap klaim terhubung ke sumber yang bisa diperiksa, sedangkan verifikasi berarti mengecek ulang klaim itu sebelum dipakai. Praktik verifikasi manusia masih krusial. Beberapa pengadilan bahkan mewajibkan tinjauan manusia atas berkas yang dibuat AI setelah muncul kasus sitasi palsu, dan pelajaran dari kejadian semacam itu jelas: keluaran AI sebaiknya tidak dipakai sebagai fakta final tanpa pemeriksaan.

Menariknya, ini bukan sekadar soal menekan kesalahan. Survei tentang halusinasi menempatkan estimasi batas pengetahuan dan kemampuan model menyatakan ketidakpastian sebagai salah satu arah riset yang penting. Idealnya, model tahu kapan dirinya tidak tahu, lalu mengatakannya dengan jujur alih-alih menebak. Sampai kemampuan itu matang, kebiasaan mengecek ulang tetap menjadi pertahanan terbaik.

Sikap yang bijak saat memakai AI

Beberapa kebiasaan sederhana bisa membantumu mengurangi risiko tertipu halusinasi. Pertama, minta AI menyertakan sumber saat kamu membutuhkannya, lalu periksa apakah sumber itu benar-benar ada dan mendukung klaimnya. Kedua, waspadai jawaban yang terlalu spesifik namun tidak bisa dilacak asalnya, seperti kutipan, angka, atau nama yang sulit diverifikasi. Ketiga, untuk keputusan penting, jadikan keluaran AI sebagai bahan awal, bukan keputusan akhir.

Pendekatan berlapis ini sejalan dengan cara para peneliti menangani halusinasi. Mereka tidak mengandalkan satu trik saja, melainkan memadukan perbaikan data, arsitektur, proses pelatihan, dan pasca-pemrosesan. Di sisi pengguna, lapisan terakhir itu adalah penilaian manusia yang kritis.

Catatan penutup

Halusinasi bukan tanda bahwa AI sepenuhnya rusak, melainkan konsekuensi wajar dari model yang dilatih untuk memprediksi teks. Kabar baiknya, ada banyak cara untuk menguranginya, mulai dari pengayaan data, RAG, hingga verifikasi manusia. Buat kamu yang memakai AI sehari-hari, sikap paling aman adalah memperlakukan jawabannya sebagai draf yang perlu dicek, bukan sebagai kebenaran yang sudah final.