RAG (Retrieval-Augmented Generation): definicja i działanie

RAG jest jednym z technicznych elementów napędzających dzisiejszych autonomicznych agentów AI, obok wywoływania narzędzi i pamięci trwałej. Skrót pochodzi z artykułu badawczego opublikowanego w maju 2020 roku przez zespół Facebook AI Research (dziś Meta), z Patrickiem Lewisem na czele. W tamtym czasie diagnoza była prosta: duże modele językowe przechowują imponującą ilość wiedzy w swoich parametrach, ale nie mogą jej łatwo aktualizować ani precyzyjnie wskazać źródła. RAG proponuje rozwiązanie: pozwolić modelowi sięgnąć po informację do zewnętrznej bazy w momencie odpowiadania, zamiast opierać wszystko na jego wiedzy zastygłej w momencie treningu.

Definicja szczegółowa

Retrieval-Augmented Generation, czyli generowanie wzbogacone wyszukiwaniem, oznacza architekturę łączącą dwa odrębne elementy: mechanizm wyszukiwania (retrieval), który wyszukuje istotne fragmenty w zewnętrznej bazie dokumentów, oraz model generujący tekst, który redaguje ostateczną odpowiedź na podstawie tych fragmentów. W przełomowym artykule Lewisa i współautorów (NeurIPS 2020) RAG łączy pamięć parametryczną (wewnętrzną wiedzę wstępnie wytrenowanego modelu) z pamięcią nieparametryczną (bazą dokumentów odpytywaną na bieżąco), aby poprawić wyniki w zadaniach wymagających precyzyjnej wiedzy.

Konsensus wokół tej definicji jest szeroki: zarówno w literaturze akademickiej, jak i w wyjaśnieniach dla szerszej publiczności, takich jak to od NVIDIA, RAG zawsze sprowadza się do tej samej dwuetapowej mechaniki, najpierw szukać, potem generować. Różnice dotyczą głównie technicznej implementacji (typu bazy wektorowej, metody dzielenia dokumentów, liczby zwracanych fragmentów), nie samej definicji zasady.

RAG odpowiada na dwa znane ograniczenia modeli językowych: halucynacje, gdy model wymyśla wiarygodną, lecz fałszywą odpowiedź, oraz przestarzałość, gdy informacja zmieniła się od daty treningu modelu. Opierając generowanie na rzeczywistych i aktualnych dokumentach, RAG ogranicza oba te problemy bez konieczności ponownego trenowania modelu.

Jak to działa

Typowy przebieg zapytania RAG obejmuje trzy etapy. Najpierw pytanie użytkownika (lub potrzeba agenta) jest przekształcane w wyszukiwanie w bazie dokumentów, często poprzez wyszukiwanie podobieństwa na wektorowych reprezentacjach tekstu, czasem połączone z klasycznym wyszukiwaniem po słowach kluczowych. Następnie najbardziej istotne fragmenty zwrócone przez to wyszukiwanie są wstrzykiwane do kontekstu wysyłanego do modelu językowego, obok pierwotnego pytania. Wreszcie model generuje odpowiedź, opierając się na tych fragmentach, najlepiej cytując je lub dopasowując do ich treści zamiast improwizować.

Ta mechanika dobrze nadaje się do użycia przez autonomicznego agenta AI: wyszukiwanie dokumentów może być udostępnione jako narzędzie, które agent sam wywołuje, w momencie, gdy uzna, że go potrzebuje, zamiast być systematycznie uruchamiane przed każdą odpowiedzią. To różnica między RAG „statycznym”, podłączonym przed każdym zapytaniem, a RAG „agentowym”, w którym model decyduje, kiedy szukać, czego szukać, i czy szukać ponownie, jeśli pierwszy wynik nie wystarczy.

Konkretny przykład z Atako

Publiczna dokumentacja Atako nie opisuje szczegółowo wewnętrznej architektury wyszukiwania dokumentów używanej przez agentów, więc nie można tu stwierdzić, że Atako wykorzystuje RAG w ścisłym sensie artykułu Lewisa i współautorów. To, co jest udokumentowane, to najbliższy mu mechanizm: każdy agent dysponuje biblioteką plików współdzieloną przez firmę, zorganizowaną w foldery, z formatami dostępnymi do podglądu (Markdown, CSV, JSON, PDF, HTML, obrazy, tekst, kod źródłowy). Te pliki mogą być udostępnione agentowi do odczytu lub dodane bezpośrednio do dedykowanego folderu agenta, przez człowieka lub przez samego agenta.

Ta biblioteka plików, w połączeniu z trwałą pamięcią agenta, która przetrwa restarty i przerwy, pełni rolę zewnętrznej bazy wiedzy, którą agent może przeglądać przed odpowiedzią lub działaniem, co w duchu odpowiada zasadzie RAG: sięgać po rzeczywistą informację zamiast opierać się wyłącznie na tym, co model zapamiętał podczas treningu. Agent skonfigurowany do obsługi klienta może na przykład sprawdzić pliki dokumentacji produktowej współdzielone w swoim folderze, zanim odpowie na zgłoszenie, zamiast zgadywać odpowiedź.

Częste błędy

Pierwsze częste nieporozumienie: przekonanie, że RAG to funkcja aktywowana jednym kliknięciem, jak przycisk w oprogramowaniu. W rzeczywistości to architektura, z konkretnymi wyborami technicznymi (jak dzielić dokumenty, jak je indeksować, ile fragmentów zwracać), które bezpośrednio decydują o jakości odpowiedzi.

Drugi błąd: myślenie, że RAG całkowicie eliminuje halucynacje. Ogranicza je, opierając generowanie na weryfikowalnych dokumentach, ale model wciąż może błędnie zinterpretować fragment lub wygenerować odpowiedź na podstawie nieistotnych dokumentów zwróconych przez niedoskonałe wyszukiwanie. RAG przesuwa ryzyko, nie usuwa go.

Trzeci błąd: mylenie RAG z fine-tuningiem. Fine-tuning trwale zmienia model, ponownie trenując go na konkretnych danych; RAG pozostawia model nietknięty i dodaje mu zewnętrzną bazę odpytywaną przy każdym zapytaniu, co jest szybsze do aktualizacji i zwykle mniej kosztowne.

Wreszcie niedocenianie znaczenia jakości bazy dokumentów to klasyczny błąd. System RAG podłączony do przestarzałych, źle ustrukturyzowanych lub niekompletnych dokumentów wygeneruje odpowiedzi słabej jakości, niezależnie od mocy używanego w tle modelu generującego.