Apa itu Hallucination?
Model generatif dapat menghasilkan fakta, angka, kutipan, atau tautan yang terdengar masuk akal tetapi tidak akurat. Ini disebut hallucination. Istilah ini menggambarkan kesalahan keluaran model, bukan berarti AI sengaja berbohong atau memahami bahwa ia sedang memberi informasi palsu.
Saat diminta mencarikan sumber untuk sebuah klaim, model dapat membuat judul artikel dan tautan yang tampak nyata, tetapi ketika dibuka sumber tersebut tidak ada. Jawaban seperti ini harus dianggap belum terverifikasi.
Cara kerja sederhana
Model bahasa memprediksi token berikutnya dari pola statistik dan konteks yang tersedia. Bila konteks kurang, ambigu, keliru, atau model tidak yakin, model dapat tetap menghasilkan jawaban yang terdengar lancar alih alih berhenti atau meminta klarifikasi.
Kenapa Anda perlu memahaminya?
Hallucination dapat membuat ringkasan, jawaban riset, kode, atau rekomendasi terlihat benar padahal tidak. Memahaminya membantu pengguna menerapkan pemeriksaan sumber, terutama sebelum memakai keluaran AI untuk keputusan penting.
Kesalahpahaman yang umum
Hallucination bukan sekadar salah ketik atau opini yang berbeda. Ia adalah klaim yang tidak didukung atau keliru. AI juga tidak memiliki niat seperti manusia, sehingga tidak tepat menyebutnya sedang berbohong.
Catatan penting sebelum menggunakannya
Tidak ada satu teknik yang menghapus hallucination sepenuhnya. Grounding, instruksi untuk menyatakan ketidakpastian, evaluasi, dan pemeriksaan manusia dapat mengurangi risiko, tetapi fakta, angka, kutipan, dan sumber tetap perlu diverifikasi.