RAG Nedir? Geri Getirmeyle Zenginleştirilmiş Üretim

RAG yöntemi nereden çıktı ve hangi sorunu çözmeyi amaçlıyor?

RAG terimi, Patrick Lewis ve arkadaşlarının Mayıs 2020’de arXiv’de yayımladığı ve NeurIPS 2020’ye kabul edilen “Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks” makalesinden geliyor. Makale, büyük dil modellerinin olgusal bilgiyi parametrelerinde sakladığını, ancak bu bilgiye kesin biçimde erişmekte ve onu işlemekte zorlandığını belirtiyor.

Makaleye göre yalnız parametrelerine dayanan modeller cevaplarının nereden geldiğini kolayca gösteremiyor ve bildiklerini güncellemekte de zorlanıyor. RAG bu soruna, önceden eğitilmiş bir üretici modeli Wikipedia’nın yoğun vektör dizinine erişen bir geri getiriciyle birleştirerek yanıt arıyor. Yazarlar, yöntemin üç açık alan soru cevaplama görevinde o dönemin en iyi sonuçlarını elde ettiğini ve yalnız parametrelerine dayanan güçlü bir modele göre daha özgül, çeşitli ve olgusal metin ürettiğini raporluyor.

RAG bir cevabı adım adım nasıl oluşturur?

Uygulamalar ayrıntıda farklılaşsa da temel akış üç adımdan oluşur. Aşağıdaki sıralama yöntemin genel mantığını özetler; belirli bir ürünün iç işleyişini anlatmaz.

• Geri getirme: Soru bir arama sorgusuna ya da gömme vektörüne çevrilir ve bir dizinden ilgili metin parçaları bulunur.
• Zenginleştirme: Bulunan parçalar, kullanıcının sorusuyla birlikte modele bağlam olarak verilir.
• Üretim: Model cevabı bu bağlamı kullanarak yazar; sistem destekliyorsa cevaptaki iddiaları kaynaklarına bağlar.

Google’ın Gemini API belgesindeki Google Arama ile temellendirme, web araması kullanan bir örnek. Belgeye göre model önce aramanın cevabı iyileştirip iyileştirmeyeceğine karar veriyor, gerekirse bir ya da birden fazla arama sorgusu üretip çalıştırıyor, sonuçları işleyip temellendirilmiş bir cevap yazıyor. Google bu yöntemin halüsinasyonları azalttığını, güncel olaylar hakkında cevap vermeyi mümkün kıldığını ve kaynak göstermeyi sağladığını belirtiyor.

RAG, yapay zekâ aramalarında kaynak seçimiyle nasıl ilişkili?

Web’de arama yapıp kaynak gösteren yapay zekâ asistanları, RAG ile aynı temel fikri izliyor: cevap yalnız eğitim verisinden değil, o anda bulunan sayfalardan da besleniyor. Google, AI Overviews ve AI Mode’un soruyu alt konulara bölüp birden fazla ilgili arama yapabildiğini açıklıyor; bu query fan-out tekniği, geri getirme adımının arama motoru ölçeğindeki bir örneği olarak düşünülebilir.

Hangi pasajın neden seçildiğine dair ayrıntılı ölçütler bu belgelerde yer almıyor. Bu yüzden aşağıdaki maddeler belgelenmiş kurallar değil, yöntemin mantığından çıkan makul çıkarımlar olarak okunmalı.

• Geri getirme adımı bir sayfayı bulamazsa üretim adımı onu kullanamaz; bu yüzden ilgili arama botlarının siteye erişebilmesi ön koşul olarak görülebilir. Hangi botlara izin verileceğini yapay zekâ tarayıcıları rehberinde anlattık.
• Modele bağlam olarak verilen şey sayfanın tamamı değil, ilgili metin parçaları olabilir. Bağlamından koparıldığında da anlaşılır kalan pasajlar bu yüzden avantajlı olabilir.
• Kritik bilgi yalnız bir görselin içinde ya da sonradan yüklenen bir bileşende duruyorsa, metin tabanlı bir geri getirme adımı onu okuyamayabilir. Google da yapay zekâ özellikleri için önemli içeriğin metin olarak erişilebilir olmasını öneriyor.

Bir web sitesi sahibi içeriğini RAG mantığına göre nasıl hazırlayabilir?

RAG için ayrı bir optimizasyon tanımlanmış değil; Google da yapay zekâ özelliklerinde görünmek için ek bir gereklilik ya da özel bir optimizasyon olmadığını belirtiyor. Yöntemin mantığı ise iyi yazılmış SEO içeriğiyle örtüşüyor: soruya doğrudan cevap veren bölüm başları, sayı ve tarihleri kaynağıyla birlikte veren cümleler ve sitenin her yerinde aynı kalan temel bilgiler.

Her bölümü bir soruya net cevapla başlatmak ve iddiaları birincil kaynağa bağlamak, hem klasik aramada hem de yapay zekâ cevaplarında işe yarayan bir alışkanlık. Bu ilkelerin örneklerini GEO nedir yazısında bulabilirsiniz. Markanın bugün yapay zekâ cevaplarında hangi sorularda anıldığını görmek için yapay zekâ görünürlük testi iyi bir başlangıç noktası.