Wdrożenie agentów AI

Czym agent różni się od chatbota i od automatyzacji

Trzy rzeczy bywają nazywane tym samym słowem, a różnią się zakresem uprawnień — i to uprawnienia, nie jakość odpowiedzi, decydują o koszcie oraz o ryzyku projektu.

• Chatbot odpowiada. Kiedy się pomyli, wprowadza rozmówcę w błąd — nieprzyjemne, ale odwracalne.
• Automatyzacja wykonuje ustaloną sekwencję kroków. Kiedy się pomyli, robi to w przewidywalnym miejscu, bo sekwencja jest znana z góry.
• Agent sam decyduje o kolejnych krokach i korzysta z narzędzi. Kiedy się pomyli, zmienia stan danych w Waszych systemach — i właśnie dlatego wymaga granic, zapisu działań i człowieka przy operacjach nieodwracalnych.

Nie jest to argument przeciwko agentom. Jest to argument za tym, żeby sięgać po nie wtedy, gdy prostsze rozwiązanie naprawdę nie wystarcza.

Kiedy agent ma sens, a kiedy jest przerostem formy

Rozstrzyga jedno pytanie: czy kolejność kroków da się wypisać z góry?

Jeżeli tak — agent nie jest potrzebny. Automatyzacja AI obsłuży ten proces taniej, szybciej i w sposób, który łatwiej przetestować. Sekwencja, którą znasz, nie potrzebuje rozwiązania zdolnego ją wymyślać.

Jeżeli nie — bo to, gdzie trzeba zajrzeć w drugim kroku, zależy od tego, co znaleziono w pierwszym, a ścieżek są dziesiątki — wtedy wypisywanie reguł staje się droższe niż zbudowanie czegoś, co decyduje samo. To jest moment na agenta.

W praktyce rekomendujemy zacząć od automatyzacji i sięgnąć po agenta dopiero, gdy okaże się, że reguł jest za dużo. Odwrotna kolejność zdarza się często i zwykle kończy się rozwiązaniem droższym w utrzymaniu, niż wymagał tego problem.

Uprawnienia: pierwsza decyzja w projekcie

Agent, który potrafi działać, musi mieć powiedziane, czego może dotknąć. Ustalamy to przed napisaniem pierwszej linijki kodu, w czterech krokach:

• Zakres odczytu — z których systemów i z których ich części agent czyta. Domyślnie tak wąsko, jak pozwala zadanie.
• Zakres zapisu — co wolno mu zmienić. To zwykle znacznie krótsza lista niż zakres odczytu i warto, żeby taka pozostała.
• Operacje wymagające zgody człowieka — wszystko, czego nie da się cofnąć: wysyłka do klienta, płatność, usunięcie danych, zmiana statusu, która uruchamia coś dalej.
• Rejestr działań — zapis tego, co agent zrobił i na jakiej podstawie, w stopniu pozwalającym odtworzyć jego decyzję po fakcie.

Ostatni punkt bywa traktowany jako dodatek, a jest warunkiem naprawialności. Bez rejestru błąd agenta jest zdarzeniem, o którym wiadomo tylko tyle, że nastąpiło.

Gdzie trafiają dane

Agent pracujący na danych firmowych musi te dane gdzieś przetworzyć, a gdzie — to decyzja projektowa, nie przesądzona z góry. Przy modelu u zewnętrznego dostawcy fragmenty danych opuszczają Waszą infrastrukturę; trzeba wtedy rozstrzygnąć świadomie, jakie dane wychodzą, do kogo i na jakiej podstawie. Jeżeli w grę wchodzą dane osobowe, dostawca modelu jest zwykle dalszym podmiotem przetwarzającym, a jego wybór zatwierdza klient. Jeżeli wymóg nieopuszczania infrastruktury jest bezwzględny, alternatywą jest model uruchamiany u Was — droższy w utrzymaniu, ale zdejmujący całe to pytanie. Oba warianty i podział ról opisaliśmy na stronie o bezpieczeństwie i RODO.

Jeżeli agent dotyka rozstrzygnięć o istotnym skutku dla konkretnej osoby — zatrudnienia, kredytu, dostępu do usługi — w grę wchodzą dwa odrębne reżimy i warto ich nie mylić. RODO ogranicza decyzje podejmowane wyłącznie automatycznie, więc realny udział człowieka zmienia obraz. AI Act nakłada obowiązki — rejestrowanie zdarzeń, nadzór, dokumentację — w zależności od klasyfikacji systemu, a nie od wagi pojedynczej decyzji; rekrutacja i ocena zdolności kredytowej należą do zastosowań wysokiego ryzyka, wiele innych nie. Klasyfikację trzeba rozstrzygnąć osobno — opisaliśmy to przy audycie gotowości na AI Act.

Jak wygląda pierwszy projekt

Pierwszy agent nie powinien być tym najbardziej ambitnym. Zaczynamy od zadania wykonywanego często, na danych, które już istnieją, i takiego, w którym pomyłka jest widoczna od razu. Przez pierwsze tygodnie agent działa obok dotychczasowego procesu, a nie zamiast niego — porównanie wyników daje listę przypadków, na których się myli, i to ta lista wyznacza granicę między tym, co robi sam, a tym, co trafia do człowieka.

Etapy, konkretny rezultat na końcu każdego z nich i podział decyzji opisaliśmy w metodyce wdrożenia. Agent jest jednym z możliwych wyników szerszego wdrożenia AI w firmie, nie osobnym światem.

Ile to kosztuje

Agent kosztuje więcej niż automatyzacja tego samego procesu i warto wiedzieć, na co idzie różnica: nie na model, tylko na granice, w których wolno mu działać, oraz na zapis tego, co zrobił. Największy wpływ na wycenę mają liczba systemów, do których agent musi mieć dostęp, i wymagany poziom pewności. Wszystkie składniki rozpisaliśmy w tekście o tym, ile kosztuje wdrożenie AI.

Najczęstsze pytania

Czym właściwie jest agent AI?

Agentem nazywamy rozwiązanie, które nie tylko odpowiada, ale też działa: samo decyduje o kolejnych krokach i korzysta z narzędzi — czyta z systemu, zapisuje do niego, wysyła wiadomość, zakłada zgłoszenie. Różnica wobec chatbota nie polega na jakości rozmowy, tylko na tym, że agent ma uprawnienia. Chatbot, który poda błędną informację, wprowadza w błąd; agent, który się pomyli, zmienia stan danych — i dlatego projekt agentowy zaczyna się od uprawnień, a nie od modelu.

Kiedy potrzebny jest agent, a kiedy wystarczy zwykła automatyzacja?

Jeżeli kolejność kroków jest znana z góry, agent nie jest potrzebny i zwykła automatyzacja będzie tańsza, szybsza i bardziej przewidywalna. Agent zarabia na siebie dopiero wtedy, gdy liczba możliwych ścieżek jest zbyt duża, żeby je wypisać: sprawa wymaga sprawdzenia w kilku miejscach, a to, gdzie trzeba zajrzeć, zależy od tego, co znaleziono wcześniej. Dobrą regułą jest zacząć od automatyzacji i sięgnąć po agenta dopiero, gdy okaże się, że reguł jest za dużo.

Ile kosztuje wdrożenie agenta AI?

Więcej niż automatyzacja tego samego procesu, i to z jednego powodu: agent, który działa, wymaga zbudowania granic, w których wolno mu działać, oraz zapisu tego, co zrobił. Sam koszt modelu jest zwykle najmniejszą pozycją. Największe różnice biorą się z liczby systemów, do których agent musi mieć dostęp, i z wymaganego poziomu pewności. Składniki kosztu rozpisaliśmy w tekście o tym, ile kosztuje wdrożenie AI.

Co się dzieje, kiedy agent się pomyli?

To pytanie trzeba rozstrzygnąć przed uruchomieniem, nie po pierwszym incydencie. W praktyce oznacza to trzy rzeczy: zakres uprawnień ograniczony do tego, co jest naprawdę potrzebne, operacje nieodwracalne zawsze za zgodą człowieka, oraz zapis pozwalający odtworzyć, dlaczego agent zrobił to, co zrobił. Bez tego trzeciego elementu nie da się ani naprawić błędu, ani wykazać, co się wydarzyło.

Czy agent AI może pracować na naszych danych firmowych?

Tak, i właśnie to jest zwykle sensem projektu — agent bez dostępu do Waszych danych niewiele wnosi ponad publicznie dostępne narzędzie. Wymaga to rozstrzygnięcia, które dane trafiają do modelu i gdzie ten model działa. Przy modelu u zewnętrznego dostawcy fragmenty danych opuszczają Waszą infrastrukturę i trzeba ustalić, do kogo i na jakiej podstawie; jeżeli wymóg nieopuszczania infrastruktury jest bezwzględny, rozważamy model uruchamiany u Was. Opisaliśmy ten przepływ i podział ról na stronie o bezpieczeństwie i RODO.