Kilku agentów AI w firmie: kto przekazuje pracę, a kto zatwierdza wynik?

Kilku agentów AI może równocześnie szukać informacji, przygotowywać dokumenty i sprawdzać obliczenia. Dla właściciela firmy najważniejsze jest jednak inne pytanie: skąd wiadomo, że jeden agent skończył swoją część, drugi dostał właściwe dane, a gotowy wynik można bezpiecznie wykorzystać?

Odpowiedź wymaga dwóch ustaleń. Trzeba określić zasady przekazywania pracy między agentami oraz wskazać człowieka, który zatwierdza działanie mające skutek poza systemem. Bez tego nawet sprawnie działający zespół agentów może przygotować przekonującą ofertę na podstawie nieaktualnego cennika.

Co zmienia się, gdy agenci sami organizują pracę?

Latent Space opisuje dynamiczne przepływy pracy w Claude: agent prowadzący planuje zadanie, uruchamia innych agentów, zbiera ich wyniki i przekazuje je do kolejnego etapu. Dokumentacja Anthropic wskazuje jako przykład przegląd wielu dokumentów: osobni agenci analizują materiały, a następny etap korzysta z tego, co zwrócili.

To przydatne tam, gdzie zadanie da się podzielić. Nie oznacza jednak, że firma powinna oddać agentom decyzję o wysłaniu wiadomości, zmianie danych klienta czy uruchomieniu płatności. Techniczna możliwość przekazania wyniku dalej to tylko część procesu. Drugą częścią są zasady obowiązujące w firmie: jakie dane wolno przekazać, kiedy pracę trzeba zatrzymać i kto akceptuje rezultat.

Przekazanie zadania to więcej niż „gotowe”

Załóżmy, że firma przygotowuje ofertę na nową aplikację. Jeden agent porządkuje wymagania z korespondencji, drugi sprawdza zakres prac w wewnętrznym katalogu usług, a trzeci składa projekt dokumentu. Jeśli pierwszy przekaże tylko zdanie „klient potrzebuje aplikacji mobilnej”, pozostali będą zgadywać, czy chodzi o jeden system, dwa systemy, panel administracyjny, czy integrację z istniejącym sklepem.

Dobre przekazanie powinno zawierać pięć elementów: wynik, źródło każdej ważnej informacji, założenia, nierozstrzygnięte pytania i wskazanie następnego kroku. W tym przykładzie agent analizujący korespondencję może zapisać: „Klient wymienił iOS i Android; nie podał sposobu logowania; termin wdrożenia pochodzi z wiadomości z 14 października; zakres integracji wymaga potwierdzenia”. Dopiero taki pakiet nadaje się do dalszej pracy.

To także sposób na ograniczenie błędów, które pojawiają się przy delegowaniu. Anthropic opisał, że zbyt ogólne polecenia dla agentów prowadziły w jego systemie badawczym do dublowania pracy albo pomijania części tematu. Cel, zakres, oczekiwany format odpowiedzi i granice zadania muszą więc być widoczne dla agenta, który je przejmuje.

Jeden przykład, trzy różne decyzje

W procesie ofertowym warto rozdzielić przygotowanie materiału, jego kontrolę i zatwierdzenie. Agent zbierający wymagania może oznaczyć braki. Agent opracowujący ofertę może użyć zatwierdzonego cennika i przygotować wersję roboczą. Agent kontrolujący może porównać kwoty z cennikiem, sprawdzić, czy w dokumencie nie ma obietnic bez pokrycia, i zwrócić listę uwag.

Żaden z tych kroków nie oznacza zgody na wysyłkę. Tę decyzję podejmuje wskazana osoba, na przykład opiekun klienta. Widzi on projekt oferty, źródła cen, założenia i pytania wymagające odpowiedzi. Może zaakceptować konkretną wersję, poprawić ją albo odesłać do uzupełnienia. Jeśli po akceptacji zmieni się cena lub zakres, dokument powinien wrócić do ponownego zatwierdzenia.

Podobną zasadę zaleca OWASP w wytycznych dotyczących agentów AI: należy oddzielić podejmowanie decyzji od jej wykonania, a zgodę powiązać z dokładnie określonym działaniem. Wysłanie oferty, publikacja treści czy zmiana danych w systemie to inne decyzje niż samo przygotowanie szkicu.

Kto zatrzymuje pracę, gdy coś się nie zgadza?

Właściciel procesu powinien ustalić, co agenci robią w razie braku danych lub sprzecznych informacji. Jeśli w korespondencji widnieje jedna cena, a w aktualnym cenniku inna, agent nie powinien po cichu wybrać wygodniejszej. Powinien oznaczyć rozbieżność i skierować ją do osoby odpowiedzialnej za cenę.

Praktyczna reguła może brzmieć: agent kontynuuje przygotowanie dokumentu na danych potwierdzonych, ale nie wysyła go i nie ukrywa braków. Osoba zatwierdzająca dostaje krótką listę wyjątków wraz ze źródłami. Dzięki temu nie musi odtwarzać całej pracy agentów, a jednocześnie wie, gdzie potrzebna jest jej decyzja.

Ramy zarządzania ryzykiem AI NIST zakładają m.in. zdefiniowanie ról i odpowiedzialności w relacji człowiek–AI oraz procesów nadzoru ze strony człowieka. Dla małej firmy nie musi to oznaczać rozbudowanej procedury. Często wystarczy opis jednego procesu: kto zleca zadanie, jaki wynik jest wymagany, kto sprawdza wyjątki i kto może uruchomić działanie końcowe.

Więcej agentów oznacza też wyższy koszt

Podział pracy ma sens, gdy części zadania są dostatecznie niezależne i warte dodatkowej kontroli. Przy prostym podsumowaniu jednej wiadomości kilku agentów może tylko wydłużyć drogę do odpowiedzi. Anthropic podaje, że w jego systemie badawczym układy z wieloma agentami zużywały około 15 razy więcej tokenów niż zwykłe rozmowy z modelem. To obserwacja z konkretnego systemu, a nie uniwersalny przelicznik kosztu każdej automatyzacji. Pokazuje jednak, dlaczego liczbę agentów warto dobierać do wartości zadania, zamiast zwiększać ją automatycznie.

Najlepiej zacząć od procesu, w którym łatwo sprawdzić wynik: przygotowania oferty, przeglądu dokumentów albo zebrania danych do raportu. Zapisz, co dokładnie przechodzi między etapami i ile poprawek wymaga praca przed akceptacją. Dopiero wtedy widać, czy kolejny agent rzeczywiście pomaga.

Wniosek

Agent może organizować pracę innych agentów i kontrolować ich wyniki. Firma powinna jednak wiedzieć, co zostało przekazane dalej i kto zatwierdził konkretny rezultat przed jego użyciem. Od tej jednej zasady warto zacząć projektowanie całego procesu.