Apa itu Retrieval-Augmented Generation (RAG)?
RAG membantu model bahasa menjawab berdasarkan dokumen yang dipilih untuk pertanyaan saat ini, misalnya panduan produk, kebijakan perusahaan, atau basis pengetahuan. RAG tidak menambah fakta tersebut secara permanen ke dalam parameter model. Sistem mengambil konteks saat dibutuhkan, kemudian model menyusun respons berdasarkan konteks itu dan instruksi yang diberikan.
Sebuah perusahaan menghubungkan chatbot ke panduan kebijakan cuti. Saat karyawan bertanya tentang jumlah hari cuti, sistem mengambil bagian panduan yang relevan lalu memberikannya kepada model. Jawaban seharusnya merujuk kebijakan tersebut, bukan mengandalkan tebakan dari pengetahuan umum model.
Cara kerja sederhana
Dokumen biasanya dipecah menjadi bagian kecil, lalu setiap bagian dibuat menjadi embedding dan disimpan agar dapat dicari. Saat pengguna bertanya, sistem mencari bagian yang paling relevan, memasukkannya ke context window bersama pertanyaan, lalu meminta model menyusun jawaban. Sistem yang baik juga dapat menampilkan sumber atau menolak menjawab ketika bukti yang ditemukan tidak cukup.
Kenapa Anda perlu memahaminya?
RAG sering digunakan untuk membuat chatbot dokumen, pencarian internal, dan asisten pelanggan yang perlu memakai informasi yang dapat diperbarui. Dengan memahami RAG, pembaca tidak akan mengira AI tiba-tiba “menghafal” semua dokumen. Nilai RAG ada pada kualitas sumber, pencarian, konteks, dan evaluasi—bukan hanya pada model yang dipakai.
Kesalahpahaman yang umum
RAG berbeda dari Fine-Tuning. Fine-tuning melatih ulang model dengan data tambahan, sedangkan RAG mengambil dokumen saat pertanyaan diajukan. RAG juga bukan sekadar memasukkan seluruh PDF ke prompt; sistem retrieval memilih bagian yang paling relevan agar konteks lebih terarah.
Catatan penting sebelum menggunakannya
RAG dapat tetap menghasilkan jawaban salah bila dokumen sumber keliru, usang, tidak lengkap, atau bagian yang diambil tidak relevan. Model juga bisa menambahkan klaim yang tidak didukung konteks. Karena itu, kualitas dokumen, strategi pencarian, pengujian, izin akses, dan tampilan sumber perlu dirancang dengan baik.