Chatbot AI dla firm na własnych danych: jak działa RAG, kiedy zmyśla i jak to sprawdzić

„Chcemy chatbota” to najczęstsze pierwsze zdanie, jakie słyszymy na spotkaniach o AI, i najmniej użyteczne na początek. Chatbot AI dla firm na własnych danych nie jest produktem, który się kupuje, tylko systemem stojącym na trzech rzeczach, które w firmie albo są, albo ich nie ma: na dokumentach, na zestawie pytań testowych i na decyzji, gdzie będą Twoje dane.

Ten tekst nie rozstrzyga, czy potrzebujesz chatbota, czy agenta — to jest w tekście „Agent AI vs chatbot” — i nie podaje cen. Odpowiada na pytanie, które pada tuż przed podpisaniem umowy: skąd taki bot bierze odpowiedzi, dlaczego czasem zmyśla, co musisz mieć u siebie i jak to sprawdzić, zanim zobaczy go pierwszy klient. Źródła zewnętrzne odczytaliśmy według stanu na 6 września 2026 r.

Trzy rzeczy nazywane „chatbotem AI dla firm”

Pod jedną nazwą sprzedaje się trzy różne systemy. Pierwszy to bot regułowy: drzewo decyzyjne z gotowymi odpowiedziami — przewidywalny, nigdy nie zmyśla, ale nie odpowie na nic, czego nie ma w drzewie, a klienci pytają inaczej, niż przewidział autor scenariusza. Drugi to model językowy bez danych firmy: rozmawia płynnie, odpowiada z wiedzy publicznej i bez wahania wymyśli Twój regulamin zwrotów, bo nigdy go nie widział.

Trzeci to model językowy z wyszukiwaniem po Twoich dokumentach — schemat znany jako RAG (Retrieval-Augmented Generation; nazwę wprowadzili Lewis i współautorzy w pracy z maja 2020 r.). Tylko o nim jest ten tekst i to on kryje się za hasłem „chatbot na własnych danych”.

Jedno rozgraniczenie: chatbotem w ścisłym sensie nazywamy system, którego jedynym wynikiem jest odpowiedź. Może czytać z Twoich systemów i nadal jest chatbotem; gdy ma coś w nich zapisać, staje się agentem — to inny projekt, opisany w tekście Agent AI vs chatbot.

Teza tego tekstu: RAG nie sprawia, że model „wie” więcej. Przenosi problem z pytania „czy model wie” na dwa inne: „czy dokumenty wiedzą” i „czy wyszukiwanie je znajdzie”.

Asystent AI dla pracowników czy chatbot dla klientów — to nie ten sam projekt

Mechanika jest ta sama, ryzyko — nie. Asystent AI dla firm w wersji wewnętrznej odpowiada pracownikom na pytania o procedury i instrukcje: użytkownik umie rozpoznać błędną odpowiedź, człowiek jest w pętli z samej konstrukcji, a w procedurach danych osobowych zwykle nie ma. To naturalny pierwszy projekt — asystent wiedzy wewnętrznej jest jednym z procesów zebranych w przykładach automatyzacji AI.

Chatbot dla klientów to ten sam silnik w innym miejscu: każda pomyłka jest publiczna, treść rozmowy niemal zawsze zawiera dane osobowe, a od 2 sierpnia 2026 r. dochodzi obowiązek informacyjny z art. 50 AI Act, o którym niżej.

Nasza kolejność jest więc stała: najpierw jakość udowodniona wewnętrznie albo w trybie „odpowiedzi do zatwierdzenia”, w którym bot podpowiada konsultantowi, a konsultant wysyła; dopiero potem rozmowa z klientem, i tylko na tematach potwierdzonych zestawem testowym. Chatbot w obsłudze klienta jest ostatnim krokiem, nie pierwszym — dlaczego, rozpisaliśmy na stronie o automatyzacji obsługi klienta.

Skąd chatbot bierze odpowiedzi: jak działa RAG w czterech krokach

Cały mechanizm mieści się w czterech krokach i w każdym jest jedno miejsce na błąd.

1. Indeksowanie. Dokumenty są dzielone na fragmenty (chunks) o wielkości ustalanej przez dostawcę. Każdy fragment zamienia się w reprezentację liczbową (embedding) i trafia do indeksu wyszukiwania, nazywanego bazą wektorową. Nic nie jest tu trenowane: model nie „uczy się” Twoich dokumentów, indeks jest ich pociętą kopią.
2. Wyszukiwanie. Pytanie zamienia się w ten sam rodzaj reprezentacji, a z indeksu wyciągane są fragmenty najbliższe pytaniu — zwykle kilka.
3. Generowanie. Model dostaje pytanie, znalezione fragmenty i instrukcje w rodzaju „odpowiadaj wyłącznie na podstawie fragmentów” i pisze odpowiedź.
4. Odpowiedź ze źródłem. Użytkownik widzi odpowiedź razem z fragmentem, na którym powstała.

Cztery miejsca na błąd: przy indeksowaniu tabela z cennikiem zostaje przecięta w połowie i nagłówki lądują w innym fragmencie niż wartości; przy wyszukiwaniu obok cennika z 2026 r. wypada równie „bliski” cennik z 2024 r.; przy generowaniu model skleja dwa fragmenty w zdanie, którego nie ma w żadnym z nich; a bez źródła przy odpowiedzi nikt nie ma jak tego sprawdzić.

Jedna uwaga specyficzna dla polskiego. Jakość wyszukiwania po polskich dokumentach zależy od tego, jak model tworzący reprezentacje radzi sobie z odmianą i z pisaniem bez polskich znaków: pytanie o „faktura korygujaca” musi trafić w fragment o „korektach faktur”. Liczb nie podamy, bo zależą od modelu i dokumentów; wniosek jest od nich niezależny — pytania testowe muszą wpisać prawdziwi ludzie, ze skrótami i literówkami, a nie dostawca.

Kiedy chatbot zmyśla — i dlaczego RAG tego nie eliminuje

Model językowy zawsze coś odpowie; nie ma w nim wbudowanego milczenia. Zmyśla — to zjawisko nazywa się halucynacją — gdy wyszukiwanie nie zwróciło nic trafnego, gdy dwa dokumenty sobie przeczą, gdy pytanie dotyczy czegoś, czego w dokumentach nie ma, i gdy odpowiedź wymaga danych na żywo, których w indeksie z natury nie ma: statusu przesyłki, stanu magazynu, dzisiejszej ceny.

Dwa publiczne przypadki. W kwietniu 2025 r. bot wsparcia firmy Cursor, przedstawiający się jako „Sam”, tłumaczył użytkownikom, że wylogowywanie z kolejnych urządzeń wynika z polityki jednej aktywnej sesji na urządzenie. Takiej polityki nie było, a użytkownicy byli przekonani, że Sam jest człowiekiem (opis w Fortune). Współzałożyciel firmy Michael Truell odpisał publicznie — w tłumaczeniu: „Nie mamy takiej polityki. Oczywiście możesz korzystać z Cursora na wielu maszynach”. Drugi przypadek dotyczy danych na żywo: w sprawie Moffatt v. Air Canada (2024 BCCRT 149) linia lotnicza odpowiadała za to, co jej chatbot powiedział pasażerowi — trybunał zasądził 650,88 dolara kanadyjskiego samego odszkodowania.

RAG to ryzyko zmniejsza, nie eliminuje. W badaniu z maja 2024 r. narzędzi prawniczych opartych na RAG zespół ze Stanfordu stwierdził błędne odpowiedzi w 17–33% przypadków — lepiej niż model ogólny bez wyszukiwania, ale daleko od deklaracji dostawców o „braku halucynacji”. To liczba z jednej dziedziny; pokazuje kierunek, nie poziom Twojego bota.

Zabezpieczenia, które da się sprawdzić w ofercie:

• „Nie wiem” dozwolone i nagradzane — bot karany za brak odpowiedzi nauczy się ją wymyślać.
• Źródło obowiązkowe — odpowiedź bez wskazanego fragmentu nie jest pokazywana.
• Próg pewności — poniżej progu rozmowę przejmuje konsultant.
• Zakres ograniczony do zaindeksowanych dokumentów — pytań spoza niego bot odmawia.
• Dane na żywo tylko z systemu źródłowego — status, cena i dostępność są odczytywane w chwili pytania, nigdy z dokumentu.

Zasada, której warto wymagać od każdego dostawcy, mieści się w jednym zdaniu: chatbot może twierdzić tylko to, na co umie wskazać.

Zanim zaczniesz wdrożenie chatbota: jakie dokumenty nadają się do bazy wiedzy, a jakie ją psują

Zanim ktokolwiek wybierze narzędzie, przejrzyj dokumenty, które miałyby trafić do indeksu. Dobry dokument spełnia pięć warunków:

• Jest aktualny — ma właściciela, datę i wersję; inaczej indeks nie odróżni obowiązującego cennika od poprzedniego.
• Jest jednoznaczny — dwie procedury, które sobie przeczą, nie dają braku odpowiedzi, tylko pewną siebie mieszankę obu.
• Nie zawiera danych osobowych. Procedury i regulaminy — tak. Archiwa zgłoszeń, maile i zapisy czatów — w większości nie: są nieformalne, sprzeczne i pełne nazwisk.
• Da się go odczytać maszynowo. PDF z warstwą tekstową, dokumenty tekstowe, wiki — tak. Skany bez OCR, prezentacje, arkusze z połączonymi komórkami — słabo.
• Nie ma duplikatów ani równoległych wersji.

Tu trzeba powiedzieć to, czego oferty unikają: projekt „chatbot” jest w praktyce projektem „baza wiedzy”. Uporządkowane dokumenty zostają w firmie niezależnie od tego, czy bot przetrwa pilotaż — i to one są pierwszym realnym rezultatem wdrożenia chatbota.

Przykład ilustracyjny — liczby przyjęte na potrzeby tekstu, nie dane klienta. Firma handlowa, 40 osób, 4 w obsłudze klienta, około 600 zapytań mailowych miesięcznie. Folder „Procedury” zawiera 312 plików: 96 to duplikaty albo kolejne wersje tego samego dokumentu, 41 jest nieaktualnych — w tym cennik z 2024 r. i regulamin zwrotów zastąpiony w 2025 r. Zostaje 175 unikatowych: 60 nadaje się do indeksu bez zmian, 70 wymaga scalenia, a 45 nie powinno trafić do indeksu w ogóle. Inwentaryzacja zajęła dwa dni robocze i była pierwszym produktem projektu.

Zestaw pytań testowych: jak zmierzyć trafność, zanim ktoś podpisze umowę

Tego elementu brakuje w ofertach, a to on rozstrzyga, czy chatbot na dokumentach firmy działa na Twoich danych, a nie tylko na demie dostawcy. Bez własnego zestawu testowego jakość ocenisz dopiero na klientach.

Zbuduj zestaw 50–100 pytań z prawdziwych zgłoszeń, w proporcjach, w jakich tematy występują w skrzynce — to ten rozkład, który każe policzyć strona o automatyzacji obsługi klienta. Do każdego pytania spisz oczekiwaną odpowiedź i dokument, który ją potwierdza. Dodaj 10–15% pytań bez odpowiedzi w dokumentach — sprawdzają, czy bot umie odmówić — i kilka z danymi osobowymi, żeby sprawdzić, czy ich nie powtarza i nie zapisuje.

Każdą odpowiedź oceń w jednej z czterech kategorii:

• poprawna ze źródłem — jedyna, która liczy się jako sukces;
• poprawna bez źródła albo ze złym źródłem — treść się zgadza, ale nikt nie może tego sprawdzić;
• „nie wiem” — słuszne, gdy odpowiedzi w dokumentach nie było, i niesłuszne, gdy była;
• błędna z pewnością siebie — jedyna kategoria, która kosztuje zaufanie.

Próg dla ostatniej kategorii ustala właściciel procesu przed pilotażem, a nie dostawca po nim. Zestaw uruchamiaj co tydzień w pilotażu i po każdej zmianie dokumentów: bot, który przeszedł test w marcu i dostał nowy cennik w czerwcu, jest nowym botem.

Ciąg dalszy przykładu. Sześćdziesiąt pytań, po dziesięć na temat: status zamówienia, zwroty i reklamacje, faktury i płatności, dostawa, produkt, konto. Pierwszy przebieg na nieuporządkowanym folderze: 41 poprawnych ze źródłem (68%), 7 poprawnych bez użytecznego źródła, 8 „nie wiem” (5 słusznych, 3 niesłuszne), 4 błędne z pewnością siebie (7%). Po scaleniu 70 dokumentów i usunięciu 45: 49, 4, 6 (wszystkie słuszne) i 1 — nadal nie zero. Próg ustalony przez właściciela: błędne z pewnością siebie nie więcej niż 2% w dwóch kolejnych tygodniowych przebiegach, zanim jakikolwiek klient zobaczy odpowiedź bez akceptacji konsultanta.

Po uruchomieniu zostają dwie miary, te same co przy asystencie wiedzy wewnętrznej: czas docierania do odpowiedzi i odsetek odpowiedzi z potwierdzonym źródłem. Sam pilotaż zaczyna się w trybie „odpowiedzi do zatwierdzenia”, a poluzowanie nadzoru jest decyzją na danych z pilotażu, nie założeniem w ofercie.

Gdzie są dane firmy podczas rozmowy i co z RODO

Podczas jednej rozmowy Twoje dane są w trzech miejscach i o każde trzeba zapytać osobno.

Indeks. Kopia fragmentów Twoich dokumentów, pocięta i hostowana gdzieś. Zapytaj gdzie, w jakim regionie i kto ma dostęp. Jeżeli trafiły tam dokumenty z danymi osobowymi, indeks jest zbiorem danych osobowych, którego nikt tak nie nazwał.

Dostawca modelu. Przy każdym pytaniu trafia do niego treść pytania i wyszukane fragmenty. Rolę dostawcy modelu ustala się osobno dla każdej operacji — jak to wygląda i o co pytać każdego dostawcę, nie tylko nas, opisaliśmy na stronie o bezpieczeństwie i RODO.

Logi. Pełne zapisy rozmów. W chatbocie dla klientów to często największy zbiór danych osobowych w projekcie, bo zapisuje to, co klient wpisał — również informacje o zdrowiu czy finansach, o które nikt nie pytał.

Stąd zasady projektowe. Wysyłaj fragmenty, nie dokumenty; odpowiedź proceduralna nie potrzebuje tożsamości klienta, więc dane osobowe zostają w Twoich systemach. Usunięcie osoby albo dokumentu z indeksu i z logów jest funkcją, którą trzeba zaprojektować, a nie skutkiem ubocznym skasowania rekordu w systemie źródłowym — rozwinęliśmy to w tekście RODO a wdrożenie LLM. Region europejski sam z siebie nie zamyka pytania o transfer, a narzędzie nie jest zgodne z RODO samo z siebie — zgodne albo nie jest Twoje użycie.

To opis strony technicznej i organizacyjnej, a nie porada prawna — ocena prawna należy do Twojego prawnika albo inspektora ochrony danych.

Automat musi się przedstawić: art. 50 AI Act od 2 sierpnia 2026 roku

Osoba rozmawiająca z botem musi wiedzieć, że rozmawia z systemem AI. Od 2 sierpnia 2026 r. wymaga tego art. 50 AI Act i dotyczy to zwykłego chatbota na stronie, nie tylko systemów krytycznych (stan na 6 września 2026 r.). Sam przepis dopuszcza odstępstwo tam, gdzie automat jest oczywisty z okoliczności i z kontekstu użycia; my z tego odstępstwa nie korzystamy. Dostępne przez całą rozmowę przejście do człowieka to również nasza zasada pracy, a nie wymóg tego przepisu.

Wróćmy do Cursora: po incydencie współzałożyciel zapowiedział, że odpowiedzi AI w obsłudze mailowej są odtąd wyraźnie oznaczane. Oznaczenie kosztuje niewiele; jego brak kosztował więcej. Co jeszcze obowiązuje od sierpnia 2026 r., opisaliśmy na stronie o zgodności z AI Act. W Polsce nadzór rynku sprawuje KRiBSI na podstawie ustawy z 3 lipca 2026 r. o systemach sztucznej inteligencji (Dz.U. 2026 poz. 1003), której rozdział o karach stosuje się od 28 października 2026 r.

Strona pomocy, widget, własny asystent czy agent: tabela decyzyjna

Zanim porównasz oferty na „chatbot dla firm”, porównaj cztery drogi — pierwsza nie wymaga żadnego bota.

Pierwsza kolumna nie jest żartem: strona pomocy nigdy nie zmyśla i przy stałych odpowiedziach wygrywa kosztem. Trzecia to własny asystent AI dla firm, o którym jest ten tekst. Ostatnia to inny projekt — z uprawnieniami, rejestrem działań i trybem zatwierdzania; co się w nim zmienia, opisaliśmy na stronie o wdrożeniu agentów AI. Jeżeli kanałem jest telefon, inaczej wygląda i rachunek, i ryzyko — rozpisaliśmy to w tekście o tym, ile kosztuje voicebot.

Kiedy chatbot na własnych danych to zły wybór

• Wiedza istnieje tylko w głowach. Kupujesz projekt dokumentacyjny i warto go tak nazwać.
• Wolumen jest mały. Kilkadziesiąt pytań miesięcznie nie zwróci utrzymania bazy wiedzy; jeżeli ich obsługa zajmuje dwie godziny miesięcznie, prawie na pewno nie warto.
• Odpowiedzi zależą od danych na żywo, których nie da się zintegrować. Bot, który nie odczyta statusu czy ceny u źródła, będzie je zgadywał z dokumentów.
• Prośba naprawdę brzmi „zmień coś”. To agent — inaczej wyceniany i nadzorowany.
• Wystarczy strona pomocy. Patrz pierwsza kolumna tabeli.
• Nikt nie będzie właścicielem bazy wiedzy po wdrożeniu. Bot bez właściciela degraduje się cicho: zmienia się cennik, trafność spada, nikt tego nie zauważa przez kwartał.
• Celem jest, żeby klient nie zauważył, że rozmawia z automatem. Tego nie budujemy.
• Dziedzina to porada prawna, medyczna albo finansowa, w której pewna siebie błędna odpowiedź ma skutki, za które nikt w firmie się nie podpisze. Rozstrzygnięć, za które nikt nie odpowiada, nie automatyzujemy.

Cen nie podajemy, bo nie znając procesu, nie znamy zakresu. Z czego składa się rachunek za chatbota i za agenta, rozpisaliśmy w tekście o tym, ile kosztuje agent AI. „Jeszcze nie warto” jest pełnoprawnym wynikiem inwentaryzacji — i tańszym niż wdrożenie, które pokaże to samo po pół roku.

Osiem pytań do każdego dostawcy chatbota

1. Skąd dokładnie bot bierze odpowiedzi — pokażcie fragment źródłowy przy każdej.
2. Co robi, gdy nie wie?
3. Przetestujcie go na naszych sześćdziesięciu pytaniach, nie na waszym demie.
4. Gdzie jest indeks, gdzie są logi, w jakim regionie i kto ma do nich dostęp?
5. Jak usuniecie dokument albo osobę z indeksu i z logów?
6. Jak oznaczony jest automat i jak wygląda przejście do człowieka?
7. Kto aktualizuje bazę wiedzy po wdrożeniu i co się dzieje z trafnością po zmianie cennika?
8. Co się zmieni w cenie i w uprawnieniach, jeżeli bot ma coś zrobić, a nie tylko odpowiedzieć?

Co dalej

Kolejność jest zawsze ta sama: dokumenty, zestaw pytań testowych, decyzja o danych — i dopiero potem narzędzie. Jeżeli okaże się, że bot ma nie tylko odpowiadać, ale coś w Twoich systemach zrobić, zmieniają się pytania — o uprawnienia, rejestr działań i zatwierdzanie; opisaliśmy je na stronie o wdrożeniu agentów AI.

Opisz nam, na jakie pytania miałby odpowiadać i gdzie dziś są odpowiedzi. Odpowiemy, od czego zaczęlibyśmy — również wtedy, gdy odpowiedź brzmi: na razie wystarczy dobra strona pomocy.