Model AI generatif dapat menyusun jawaban yang terdengar meyakinkan, tetapi pengetahuannya tidak selalu mencakup dokumen terbaru atau informasi khusus milik sebuah organisasi. Retrieval-Augmented Generation (RAG) adalah pendekatan yang membantu model menjawab dengan mengambil informasi dari sumber eksternal yang relevan terlebih dahulu. Teknik ini berguna untuk chatbot layanan pelanggan, pencarian dokumen internal, pusat bantuan, dan asisten pengetahuan.
Apa Itu RAG dalam AI?
RAG menggabungkan dua proses: retrieval atau pengambilan informasi, dan generation atau penyusunan jawaban. Ketika pengguna mengajukan pertanyaan, sistem mencari potongan dokumen yang paling berkaitan, lalu memberikan potongan tersebut bersama pertanyaan kepada model bahasa besar (LLM). Model menggunakan konteks itu untuk merangkai respons.
RAG bukan berarti model otomatis dilatih ulang setiap kali dokumen berubah. Pengetahuan tambahan biasanya disediakan saat pertanyaan diproses, melalui hasil pencarian. Karena itu, dokumen dapat diperbarui tanpa harus melakukan pelatihan ulang model dasar, meskipun indeks pencarian tetap perlu diperbarui agar perubahan bisa ditemukan.
Bagaimana Cara Kerja RAG?
Implementasi RAG memiliki variasi, tetapi alur umumnya terdiri dari persiapan dokumen dan pencarian saat pengguna bertanya.
- Mengumpulkan sumber: sistem mengambil dokumen yang diizinkan, misalnya panduan produk, artikel bantuan, kebijakan, atau berkas PDF. Dokumen perlu dibersihkan dari duplikasi dan informasi yang tidak boleh diproses.
- Memecah dokumen: teks dibagi menjadi potongan yang cukup kecil agar mudah dicari, tetapi tetap mempertahankan konteks. Potongan yang terlalu pendek bisa kehilangan makna; potongan yang terlalu panjang dapat membuat pencarian kurang tepat.
- Membuat representasi pencarian: banyak sistem mengubah potongan teks menjadi embedding, yaitu representasi numerik yang membantu mengukur kemiripan makna. Representasi ini disimpan dalam indeks atau basis data vektor. Sistem tertentu juga menggunakan pencarian kata kunci atau gabungan beberapa metode.
- Mencari konteks: pertanyaan pengguna diproses dengan metode pencarian yang sama atau kompatibel. Sistem mengambil sejumlah potongan paling relevan, lalu dapat menyaring atau mengurutkannya kembali.
- Menyusun jawaban: potongan terpilih dikirim sebagai konteks ke LLM bersama instruksi yang jelas. Aplikasi yang baik dapat menyertakan sumber atau kutipan agar pengguna bisa memeriksa dasar jawabannya.
Contoh Penggunaan dalam Situasi Nyata
Bayangkan perusahaan memiliki ratusan halaman panduan produk. Seorang pelanggan bertanya, “Bagaimana cara mengatur ulang perangkat jika lupa kata sandi?” Tanpa akses ke dokumentasi tersebut, chatbot mungkin memberikan petunjuk umum yang tidak cocok dengan produk. Dengan RAG, sistem mencari bagian panduan yang membahas pengaturan ulang, lalu meminta model merangkum langkah yang ditemukan.
Contoh lain adalah asisten untuk tim internal. Pegawai dapat bertanya tentang prosedur pengajuan cuti atau kebijakan penggantian biaya. Jawaban seharusnya didasarkan pada dokumen yang memang boleh diakses pegawai itu, bukan sekadar pengetahuan umum model. Jika tidak ada sumber yang cukup relevan, sistem idealnya menyatakan bahwa informasi belum ditemukan, bukan mengarang prosedur.
Manfaat RAG
- Lebih kontekstual: jawaban dapat merujuk pada dokumentasi atau kebijakan khusus yang tidak tersedia dalam pengetahuan bawaan model.
- Pembaruan lebih praktis: isi sumber dapat diperbarui dan indeksnya dibangun ulang tanpa selalu melatih model dasar dari awal.
- Lebih mudah ditelusuri: aplikasi dapat menampilkan dokumen yang menjadi dasar jawaban, sehingga pemeriksaan fakta lebih mudah dilakukan.
- Kontrol sumber: pengelola dapat memilih koleksi dokumen yang boleh digunakan dan mengatur hak aksesnya.
Apa Batasan dan Risikonya?
RAG tidak menjamin jawaban selalu benar. Jika pencarian mengambil dokumen yang keliru, sudah kedaluwarsa, atau tidak lengkap, model dapat menghasilkan kesimpulan yang menyesatkan. Model juga bisa salah menafsirkan konteks yang sebenarnya relevan. Karena itu, kualitas jawaban bergantung pada kualitas dokumen, pemecahan teks, strategi pencarian, instruksi model, dan evaluasi hasil.
Risiko lain berkaitan dengan privasi dan keamanan. Dokumen internal mungkin memuat data pribadi, kredensial, atau informasi rahasia. Hak akses harus diperiksa sebelum teks masuk ke indeks dan sebelum hasil pencarian diberikan kepada model. Sistem juga perlu waspada terhadap instruksi berbahaya yang sengaja disisipkan di dalam dokumen; teks yang ditemukan harus diperlakukan sebagai sumber informasi, bukan sebagai perintah yang otomatis dipercaya.
Tips Menerapkan RAG dengan Lebih Aman
- Mulai dari kumpulan dokumen terbatas: gunakan sumber resmi yang jelas pemilik dan tanggal pembaruannya.
- Jaga izin akses: terapkan pemeriksaan hak akses pada saat pencarian, bukan hanya ketika dokumen pertama kali diunggah.
- Tampilkan sumber: jika memungkinkan, sertakan judul dokumen, bagian, atau tautan yang mendukung jawaban.
- Tentukan perilaku saat bukti kurang: instruksikan sistem untuk mengakui ketidakpastian dan meminta klarifikasi, bukan menebak.
- Uji dengan pertanyaan nyata: ukur apakah dokumen yang tepat berhasil ditemukan, apakah jawaban sesuai sumber, dan apakah sistem menolak permintaan yang tidak memiliki dasar.
- Pantau perubahan: perbarui indeks saat dokumen berubah dan hapus sumber yang sudah tidak berlaku atau tidak lagi diizinkan.
Untuk aplikasi yang menggunakan banyak dokumen, file sumber juga perlu disimpan dan dikelola dengan baik. Sebagai contoh, artikel Nazuaf tentang Cloudflare R2 membahas salah satu pilihan penyimpanan objek untuk berkas website; penggunaan layanan tersebut tetap memerlukan pengaturan akses dan keamanan yang tepat.
Kesimpulan
RAG membantu AI generatif memanfaatkan dokumen eksternal yang relevan ketika menjawab pertanyaan. Pendekatan ini dapat membuat asisten lebih berguna untuk kebutuhan khusus dan memudahkan penelusuran sumber, tetapi hasilnya tetap bergantung pada kualitas pencarian serta tata kelola data. Mulailah dengan sumber tepercaya, batasi akses, tampilkan bukti, dan uji sistem secara berkala sebelum mengandalkannya untuk keputusan penting.
Kredit ilustrasi: diagram RAG oleh Numiri melalui Wikimedia Commons, berlisensi Creative Commons Attribution 4.0 (CC BY 4.0).