RAG to skrót, który w ofertach „asystenta AI na dokumentach firmy” pada najczęściej, a najrzadziej jest wyjaśniany. W tym tekście tłumaczymy, czym jest, bez żargonu, i — co ważniejsze dla decyzji — kiedy ma sens, a kiedy wystarczy zwykła wyszukiwarka, przekazanie kilku plików w całości albo eksport danych do arkusza. Jeżeli asystent ma pracować na dokumentach albo danych z Twoich systemów, to właśnie takie połączenia budujemy w ramach łączenia asystenta AI z Twoim systemem.
Ten tekst nie powtarza, jak działa chatbot na dokumentach krok po kroku ani kiedy zmyśla — to opisaliśmy w tekście o chatbocie AI na dokumentach firmy. Tu chodzi o wcześniejsze pytanie: czy w ogóle go budować. Dokumentację dostawców, na którą się powołujemy, odczytaliśmy 12 października 2026 r.
RAG w trzech zdaniach
RAG (Retrieval-Augmented Generation, po polsku: generowanie wsparte wyszukiwaniem) działa tak:
- Najpierw wyszukaj. System przeszukuje Twoje dokumenty, wcześniej zaindeksowane (o tym niżej), i wybiera kilka fragmentów, które pasują do pytania.
- Potem odpowiedz. Model językowy — silnik, na którym działają asystenci w rodzaju ChatGPT czy Claude — dostaje pytanie razem z tymi fragmentami i pisze odpowiedź na ich podstawie.
- Wskaż źródło. Użytkownik widzi, z którego dokumentu i fragmentu pochodzi odpowiedź, więc może ją sprawdzić. Źródło ułatwia sprawdzenie, ale nie gwarantuje, że odpowiedź jest poprawna.
Anthropic opisuje RAG jako metodę, która wyszukuje odpowiednie informacje w bazie wiedzy i dołącza je do pytania, a Microsoft — jako wzorzec, który opiera odpowiedzi modelu na Twoich własnych treściach. Wskazanie źródła trzeba zaprojektować jako wymóg, a dostawcy modeli mają do tego gotowe funkcje — na przykład Anthropic opisuje cytowania, które zwracają fragmenty mające potwierdzać poszczególne twierdzenia.
Czym to się różni od wgrania plików do ChatGPT
Kilka krótkich dokumentów można przekazać modelowi w całości, jeśli model może przyjąć tyle tekstu w jednym zapytaniu. To działa i przy kilku dokumentach jest najprostszym rozwiązaniem. Samo wgranie plików do czatu nie mówi jednak, jak usługa z nich korzysta — przy większych plikach może sama wyszukiwać fragmenty — a ręczne wgranie kopii pliku nie przenosi uprawnień ze źródła ani nie zapewnia aktualizacji po jego zmianie. RAG zaczyna być potrzebny, gdy dokumentów robi się za dużo, żeby zmieściły się w jednym zapytaniu: wtedy w najczęstszym wariancie system trzyma je w indeksie do wyszukiwania — pociętej na fragmenty kopii dokumentów. Przy wyszukiwaniu według znaczenia każdy fragment dostaje liczbowy opis znaczenia (tak zwany embedding), żeby dało się go znaleźć także wtedy, gdy pytanie używa innych słów niż dokument; często łączy się to ze zwykłym wyszukiwaniem po słowach.
Najczęstsze nieporozumienie: RAG nie „uczy modelu Twojej firmy”. Model nie jest trenowany na dokumentach; przy każdym pytaniu dostaje tylko kilka znalezionych fragmentów. Czy dostawca modelu może używać przesłanych treści do trenowania, to osobna sprawa, którą rozstrzygają warunki konkretnej usługi, a nie sam RAG.
Kiedy RAG ma sens
RAG ma sens przede wszystkim przy pierwszym z poniższych warunków; każdy kolejny wzmacnia argument:
- Dokumentów jest dużo. Na tyle dużo, że nie mieszczą się w jednym zapytaniu do modelu albo przekazywanie ich w całości przy każdym pytaniu byłoby wolne i drogie. Microsoft podaje przykład 10 000 stron dokumentacji, których nie ma sensu wysyłać przy każdym pytaniu.
- Dokumenty się zmieniają. Procedury, instrukcje, regulaminy i cenniki dostają nowe wersje. Google zwraca uwagę, że model sam z siebie zna tylko dane, na których go wytrenowano, a RAG dostarcza mu aktualnych informacji — pod warunkiem, że indeks jest odświeżany razem z dokumentami.
- Odpowiedź musi mieć źródło. Pracownik, który pyta o procedurę reklamacji albo zapis umowy ramowej, musi móc kliknąć i zobaczyć dokument. Bez źródła nie ma jak odróżnić odpowiedzi poprawnej od przekonująco brzmiącej.
Typowe przykłady: asystent wiedzy dla działu obsługi klienta albo serwisu, który odpowiada z procedur i instrukcji; wyszukiwanie zapisów w dużym zbiorze umów; dokumentacja techniczna produktów, której nikt nie zna w całości.
Kiedy RAG nie ma sensu — i co zrobić zamiast
Dokumentów jest kilka: przekaż je w całości
Jeżeli cała wiedza mieści się w kilku dokumentach, nie trzeba niczego indeksować. Anthropic pisał we wrześniu 2024 r., że bazę wiedzy mniejszą niż 200 000 tokenów (około 500 stron) można po prostu dołączyć w całości do zapytania, bez RAG. Token to jednostka tekstu, w której dostawca liczy długość zapytania i opłatę. Google pisze podobnie: długie okno kontekstu modelu, czyli to, ile tekstu model przyjmuje naraz, jest dobrym sposobem na przekazanie materiałów źródłowych, a RAG warto dołożyć, gdy materiału jest więcej, niż się mieści, albo gdy trzeba ograniczyć koszt i czas odpowiedzi (Google Cloud). Limity zależą od modelu i się zmieniają, więc sprawdza się je w dokumentacji wybranego modelu na dzień decyzji.
Pytania dotyczą liczb w systemie: zapytaj system albo zrób eksport
„Ile mamy nieopłaconych faktur od tego klienta?”, „jaki jest stan magazynowy tego towaru?” — to nie są pytania do dokumentów, tylko do danych w tabelach. RAG szuka fragmentów tekstu, więc na takie pytania odpowiada słabo: może trafić na fragment eksportu sprzed miesiąca, zamiast policzyć. Są dwie lepsze drogi:
- Zwykły eksport. Jeżeli pytanie pada raz w tygodniu, eksport do arkusza albo gotowy raport w systemie zwykle wystarczy. Zanim cokolwiek zbudujesz, porównaj jego koszt i dokładność z tym, ile kosztowałby i jak dokładny byłby asystent.
- Zapytanie do systemu w chwili pytania. Gdy dane mają być aktualne co do minuty, asystent powinien odczytać je z systemu — ERP (systemu do zarządzania firmą), CRM (systemu do obsługi klientów i sprzedaży) albo programu księgowego — przez jego interfejs (API, czyli sposób, w jaki programy wymieniają dane) albo przez serwer MCP, czyli niewielki program, który udostępnia asystentowi wybrane dane i funkcje systemu w zakresie, na który mu pozwolono. Cztery sposoby takiego połączenia opisaliśmy w tekście o integracji AI z ERP i CRM.
W praktyce dobry asystent łączy oba światy: procedury i instrukcje wyszukuje w dokumentach, a aktualne statusy, ceny i stany odczytuje w chwili pytania z systemu, a nie z dokumentu.
Wyszukiwarka już działa: zostaw ją
Jeżeli pracownicy wpisują nazwę procedury w wyszukiwarkę intranetu albo dysku i dostają właściwy plik, a link do dokumentu im wystarcza, asystent RAG niewiele doda. Asystent może się przydać na przykład wtedy, gdy odpowiedź trzeba złożyć z kilku dokumentów albo ludzie nie wiedzą, jak dokument się nazywa. Uczciwy test: zapytaj kilka osób, jak dziś szukają odpowiedzi i ile to trwa. Jeżeli odpowiedź brzmi „wpisuję w wyszukiwarkę i mam”, to nie jest projekt na RAG.
Uprawnienia najpierw
Indeks do wyszukiwania jest kopią fragmentów dokumentów. Sam z siebie nie wie, kto może czytać który dokument — jeżeli uprawnienia nie zostaną do niego przeniesione, asystent może zacytować pracownikowi fragment pliku, którego ten nigdy nie powinien był zobaczyć.
Dostawcy opisują to wprost. Po skonfigurowaniu przenoszenia uprawnień i filtrowania wyników Azure AI Search zapisuje informacje o uprawnieniach podczas indeksowania i stosuje je przy zapytaniu — pod warunkiem, że aplikacja przekaże, kto pyta. Przy SharePoincie sposób aktualizacji uprawnień w indeksie zależy od wersji integracji i rodzaju zmiany; część zmian, na przykład uprawnień nadanych całej witrynie, bibliotece albo folderowi, wymaga wymuszonego odświeżenia, inaczej indeks pokazuje dokumenty według starych uprawnień. A Microsoft 365 Copilot pokazuje użytkownikowi tylko te dane, które ten może co najmniej wyświetlić — co oznacza też, że asystent może pokazać plik udostępniony przez pomyłkę całej firmie.
Z tego wynikają dwie zasady, od których zaczynamy każdy taki projekt: asystent wyszukuje wyłącznie w tym, co pytający może otworzyć sam, a zanim cokolwiek trafi do indeksu, sprawdza się, kto dziś ma dostęp do folderów, które mają być przeszukiwane.
Test jakości na Twoich dokumentach
O tym, czy RAG działa, nie rozstrzyga demo dostawcy, tylko test na Twoich dokumentach i Twoich pytaniach. Na pierwszy sprawdzian asystenta wewnętrznego wystarczy 30–50 prawdziwych pytań:
- Zbierz pytania od ludzi, którzy je zadają — ze skrótami i literówkami, w takich proporcjach, w jakich tematy pojawiają się w pracy.
- Do każdego pytania zapisz odpowiedź wzorcową i fragment dokumentu, który ją potwierdza. Zapisz też, kto pyta i do których dokumentów ma dostęp — ta sama odpowiedź może być dostępna dla jednej osoby, a dla innej nie.
- Dodaj kilka pytań bez odpowiedzi w dokumentach, żeby sprawdzić, czy asystent umie powiedzieć „nie wiem”, zamiast zgadywać.
- Mierz trzy rzeczy osobno: odsetek pytań z odpowiedzią dostępną dla pytającego, przy których wyszukiwanie znalazło fragment potwierdzający odpowiedź (trafienie), poprawność odpowiedzi i to, czy wskazuje właściwe źródło. Odmowy przy pytaniach bez odpowiedzi oceniaj osobno, a osobno sprawdź też, czy odpowiedź i cytowania nie ujawniają treści spoza uprawnień pytającego. Te miary pomagają ustalić, czy problem leży raczej w dokumentach i wyszukiwaniu, czy w samej odpowiedzi.
Próg, który asystent musi przejść, ustala osoba odpowiedzialna za proces przed testem, a nie dostawca po nim. Zestaw powtarza się po każdej większej zmianie dokumentów. Przy chatbocie dla klientów zestaw powinien być większy, z czterema kategoriami ocen — rozpisaliśmy to w tekście o chatbocie AI na dokumentach firmy.
Z czego składa się koszt
Kwoty nie podamy, bo zależy ona od Twoich dokumentów, ale możesz ją samodzielnie oszacować z pięciu pozycji. To uproszczony szacunek: ceny tokenów, które podstawiasz do wzorów, są podawane za milion tokenów, a to, które opłaty występują, zależy od wybranych usług.
| Pozycja | Jak policzyć | Kiedy występuje |
|---|---|---|
| Przygotowanie i indeksowanie | liczba stron × tokeny na stronę ÷ 1 000 000 × cena modelu do embeddingów za milion tokenów, plus praca nad uporządkowaniem dokumentów | raz, na starcie |
| Przechowywanie indeksu | rozmiar indeksu ponad darmowy limit × stawka dostawcy × liczba dni albo godzin w miesiącu, albo stała opłata za usługę wyszukiwania | co miesiąc |
| Pytania | liczba pytań × [(tokeny instrukcji + pytania + wyszukanych fragmentów) × cena za tokeny wejściowe + tokeny odpowiedzi × cena za tokeny wyjściowe] ÷ 1 000 000, plus osobno płatne wywołania wyszukiwania, jeśli usługa je nalicza | co miesiąc |
| Ponowne indeksowanie | tokeny w zmienionych dokumentach ÷ 1 000 000 × cena modelu do embeddingów, plus obsługa zmian | co miesiąc |
| Właściciel dokumentów | godziny w miesiącu × koszt godziny tej osoby | stale |
Przykład stawki z cennika: OpenAI rozlicza przechowywanie indeksów w swojej usłudze wyszukiwania po rozmiarze — pierwszy gigabajt, liczony łącznie dla wszystkich indeksów, jest bezpłatny, każdy kolejny kosztuje 0,10 USD dziennie (dokumentacja OpenAI, stan na 12 października 2026 r.). Inni dostawcy liczą inaczej, dlatego pozycje porównuje się w cennikach wybranych usług, a nie przenosi z cudzych ofert.
Ostatni wiersz tabeli bywa w ofertach pomijany, a decyduje o tym, czy asystent po pół roku nadal odpowiada zgodnie z aktualnymi procedurami. Indeks nie wie, że cennik się zmienił, dopóki ktoś nie podmieni dokumentu.
Dane i RODO: gdzie leży indeks i jak długo
Przy RAG dane firmy mogą być w czterech miejscach: w indeksie (kopii fragmentów dokumentów); w usłudze, która tworzy embeddingi (liczbowe opisy znaczenia) — jeśli działa u zewnętrznego dostawcy, trafia do niej każdy indeksowany fragment, a przy wyszukiwaniu według znaczenia także każde pytanie, nawet gdy indeks i model odpowiadający działają u Ciebie (Microsoft opisuje, że ten sam model tworzy embeddingi przy indeksowaniu i przy zapytaniach); w środowisku modelu — własnym albo u dostawcy, do którego przy każdym pytaniu trafiają pytanie i wyszukane fragmenty; oraz w zapisach rozmów, jeśli są przechowywane. RODO, czyli ogólne rozporządzenie o ochronie danych, dotyczy każdego z nich, jeżeli są tam dane osobowe. O każde z nich trzeba zapytać osobno: w jakim regionie leży, kto ma do niego dostęp i jak długo jest przechowywane.
Najczęściej pomija się to, co dzieje się z indeksem po usunięciu dokumentu. Gdy dokument zostaje usunięty ze źródła, musi zniknąć także z indeksu — inaczej asystent nadal go cytuje. Synchronizację usunięć trzeba zapewnić i przetestować: skonfigurować gotowy mechanizm, jeśli usługa go ma, albo zbudować własny. Niektóre gotowe mechanizmy są ogólniejsze: na przykład OpenAI pozwala ustawić, że cały indeks wygasa po określonym czasie bez używania, ale usuwania pojedynczych dokumentów skasowanych w źródle to nie zastępuje. Jeżeli do indeksu mają trafić dokumenty z danymi osobowymi, decyzję o tym firma podejmuje po ocenie prawnika albo inspektora ochrony danych. Co z tego wynika przy wdrożeniu modeli językowych, opisaliśmy w tekście RODO a wdrożenie LLM, a jak traktujemy dane w naszych projektach — na stronie o bezpieczeństwie i RODO.
Kiedy nie budować i od czego zacząć
Nie budowalibyśmy RAG, gdy:
- dokumentów jest kilka i mieszczą się w całości w jednym zapytaniu do wybranego modelu — wystarczy przekazać je modelowi w całości;
- pytania dotyczą danych w systemie — lepszy jest raport, eksport albo zapytanie do systemu;
- wyszukiwarka już działa i ludziom wystarcza link do dokumentu;
- nikt nie odpowiada za aktualność dokumentów — asystent będzie z pełnym przekonaniem cytował nieaktualne wersje;
- uprawnienia do folderów są nieuporządkowane — najpierw porządek w dostępach, potem indeks.
Jeżeli żaden z tych punktów nie pasuje, zaczynamy od pilotażu w wąskim zakresie: jeden zbiór dokumentów, jeden zespół, odpowiedzi sprawdzane przez człowieka. Asystent podpowiada, pracownik decyduje, a test jakości z prawdziwych pytań pokazuje, czy warto iść dalej. Jak prowadzimy taki projekt od wyboru procesu po przekazanie, opisaliśmy na stronie o wdrożeniu AI w firmie.
Napisz, na jakich dokumentach albo w jakim systemie ma pracować asystent. Odpowiemy, czy to projekt na RAG, na zapytanie do systemu, czy na zwykłą wyszukiwarkę — również wtedy, gdy odpowiedź brzmi „jeszcze nie warto”.