Asystent AI, który zna Twoją firmę — jak działa RAG i kiedy się opłaca

Problem, który naprawdę rozwiązujesz

Zanim padnie słowo „RAG”, warto nazwać koszt. Badania IDC od lat pokazują, że pracownik biurowy spędza około 2,5 godziny dziennie na szukaniu informacji — mniej więcej 30% dnia pracy. Nowsze dane Asany mówią o 60% czasu pochłanianym przez „pracę o pracy”: przełączanie narzędzi, dopytywanie, odtwarzanie decyzji. Ponad połowa badanych przyznaje, że regularnie musi kogoś zapytać albo umówić spotkanie, żeby znaleźć rzecz, która gdzieś jest zapisana.

W firmie na 30 osób to nie jest abstrakcja, tylko kilka etatów rocznie rozpuszczonych w pytaniach typu „jaka jest aktualna wersja cennika dla klienta z umową ramową”, „czy tę reklamację rozpatrujemy w 14 czy 30 dni” i „gdzie leży ten protokół odbioru z marca”. Odpowiedzi istnieją. Są w SharePoincie, na Dysku, w mailach i w głowie osoby, która akurat jest na urlopie.

Asystent RAG nie jest więc „chatbotem”. Jest wyszukiwarką, która odpowiada zdaniem zamiast listą linków — i pokazuje dokument źródłowy, żeby dało się to sprawdzić.

Jak to działa — bez żargonu

Mechanika ma cztery kroki i warto ją rozumieć, bo od niej zależy każda decyzja o budżecie.

• Indeksowanie. Twoje dokumenty są dzielone na fragmenty i zamieniane na wektory — liczbowe reprezentacje znaczenia. Dzięki nim system znajduje fragment o „terminie wypowiedzenia”, nawet jeśli pytanie brzmiało „jak szybko klient może zerwać umowę”.
• Wyszukiwanie. Pytanie użytkownika przechodzi tę samą zamianę, a system wybiera kilkanaście najbliższych znaczeniowo fragmentów. To jest krok, który decyduje o jakości całości — i to on najczęściej zawodzi.
• Przeszeregowanie (re-ranking). Osobny, mniejszy model ocenia, które z tych fragmentów faktycznie odpowiadają na pytanie, i odrzuca resztę. Pomijany w prototypach, kluczowy na produkcji.
• Generowanie odpowiedzi. Model dostaje pytanie plus wybrane fragmenty i instrukcję: odpowiadaj wyłącznie na podstawie tego materiału, a jeśli go tam nie ma — powiedz, że nie wiesz. Do odpowiedzi dokładane są odnośniki do dokumentów.

Dlaczego nie „wytrenować własnego modelu”

To pytanie pada na co drugim spotkaniu. Odpowiedź jest prosta: trenowanie (fine-tuning) uczy model stylu i formy odpowiedzi, nie faktów, które zmieniają się w środę. Zmiana cennika po fine-tuningu oznacza kolejny cykl treningu; przy RAG oznacza podmianę pliku i reindeksację w kilka minut.

Do tego dochodzi kwestia, o którą pyta każdy prezes: co się dzieje z dokumentami. Przy RAG baza wiedzy zostaje w Twojej infrastrukturze, a do modelu trafia tylko fragment potrzebny do konkretnej odpowiedzi — w ramach umowy, w której dostawca nie trenuje na Twoich danych. Fine-tuning wymaga oddania całego zbioru. Dla firmy przetwarzającej umowy i dane osobowe to zupełnie inna rozmowa z prawnikiem.

Jest wreszcie argument, który zamyka temat: RAG umie powiedzieć „nie wiem”. Model wytrenowany na Twoich danych nie ma jak odróżnić faktu od wzorca stylistycznego — i wymyśli paragraf, który brzmi jak Twoje paragrafy.

Cztery powody, dla których te projekty się przewracają

Statystyka 70–80% nieudanych wdrożeń wygląda dramatycznie, dopóki nie zobaczy się przyczyn. Powtarzają się cztery i żadna nie dotyczy sztucznej inteligencji.

• Bałagan w dokumentach. Trzy wersje tej samej procedury, każda w innym folderze, żadna z datą obowiązywania. System wybierze jedną z nich, statystycznie najbardziej podobną do pytania — niekoniecznie tę aktualną. RAG nie porządkuje wiedzy, tylko ją uwidacznia.
• Nieświeży indeks. Klasyczny przypadek z 2026: firmowy bot HR miesiącami cytował starą politykę urlopową, bo nikt nie pilnował reindeksacji, a na żadnym dashboardzie nie było metryki świeżości źródeł. Nikt tego nie zauważył, dopóki nie zauważył pracownik.
• Brak pomiaru trafności wyszukiwania. Około 70% zespołów utrzymujących RAG na produkcji nie mierzy systematycznie jakości retrievalu. Bez zestawu kilkudziesięciu pytań kontrolnych i regularnego sprawdzania odpowiedzi pogorszenie jakości jest niewidoczne aż do skargi.
• Uprawnienia sklejone na końcu. Jeśli asystent indeksuje wszystko, do czego ma dostęp, to prędzej czy później odpowie handlowcowi na pytanie o wynagrodzenia. Model uprawnień musi być zaprojektowany razem z indeksem, nie doklejony po demie.

Gdzie to się zwraca najszybciej

Najlepsze pierwsze wdrożenie ma trzy cechy: zamknięty i uporządkowany zbiór dokumentów, jasno określonego odbiorcę i pytania, które padają codziennie. Zwykle jest to jeden z poniższych scenariuszy.

• Wsparcie zespołu obsługi klienta. Konsultant pyta o warunki gwarancji dla konkretnego produktu, dostaje odpowiedź z odnośnikiem do dokumentu i sam decyduje, co napisać klientowi. Człowiek zostaje w pętli, a czas obsługi zgłoszenia spada od pierwszego tygodnia.
• Wiedza techniczna i serwisowa. Instrukcje, karty katalogowe, historia napraw. Technik w terenie pyta z telefonu zamiast dzwonić do biura — to jest wdrożenie, po którym najszybciej słychać „wróćmy do tego szerzej”.
• Onboarding i procedury wewnętrzne. Nowa osoba zadaje asystentowi pytania, które normalnie zająłyby czyjeś półtorej godziny dziennie przez pierwszy miesiąc.
• Przygotowanie ofert i przetargów. Wyszukiwanie w archiwum poprzednich ofert, opisów referencyjnych i specyfikacji. Zamiast pisać od zera, handlowiec składa dokument z materiału, który już wygrał.

Gdzie RAG nie jest odpowiedzią

Jest kilka sytuacji, w których proponujemy klientom coś innego — i lepiej wiedzieć to przed wyceną niż po.

• Pytania o liczby, nie o teksty. „Ile sprzedaliśmy w lipcu” to zapytanie do bazy danych albo raport w BI. Wektorowe wyszukiwanie fragmentów tekstu jest tu najgorszym możliwym narzędziem i będzie mylić się w liczbach.
• Zbiór poniżej kilkudziesięciu dokumentów. Jeśli cała wiedza to dwadzieścia plików, wystarczy wrzucić je do kontekstu modelu albo zwyczajnie uporządkować dysk. Budowanie indeksu wektorowego to nadmiarowa maszyneria.
• Odpowiedzi wymagające decyzji, nie informacji. Interpretacja niejednoznacznego zapisu umowy czy ocena reklamacji spornej to praca człowieka. Asystent może podać podstawę, nie rozstrzygnięcie.
• Wiedza, której nikt nigdy nie spisał. Jeżeli odpowiedzi istnieją wyłącznie w głowach trzech osób, to najpierw jest projekt spisania procedur, a dopiero potem projekt AI. Kolejność odwrotna kończy się asystentem, który uprzejmie nie wie.

Ile to kosztuje i ile trwa

Rynkowe wyceny asystenta na jednym źródle danych mieszczą się w przedziale kilkudziesięciu tysięcy złotych i 4–6 tygodni pracy. Ta liczba rozjeżdża się jednak w zależności od trzech czynników: stanu dokumentów, liczby systemów źródłowych i tego, czy potrzebny jest model uprawnień per użytkownik. Najdroższy bywa nie wektorowy silnik, tylko tydzień poświęcony na ustalenie, która wersja procedury obowiązuje.

Koszt utrzymania to zwykle kilkaset złotych miesięcznie za infrastrukturę i zapytania do modelu przy zespole kilkudziesięciu osób, plus czas osoby odpowiedzialnej za aktualność źródeł. Ta ostatnia pozycja jest w budżetach pomijana najczęściej i to ona decyduje, czy za rok asystent nadal będzie używany.

Nasze podejście jest niezmienne: dwa tygodnie na wersję działającą na jednym, wąskim zbiorze dokumentów i realnej grupie użytkowników, z góry ustalonym progiem sukcesu. Jeśli po miesiącu zespół nie zadaje asystentowi pytań z własnej woli — projekt się nie udał i lepiej to wiedzieć po czterech tygodniach niż po ośmiu miesiącach.

Jak sprawdzić, czy działa

Demo zawsze wygląda dobrze, bo pytania do demo układa osoba, która zna zawartość. Wartościowy test wygląda inaczej i można go przeprowadzić u siebie w jedno popołudnie.

1. Zbierz 30–50 realnych pytań, które w ostatnim miesiącu padły w firmie — z maili, ticketów, czatu. Nie wymyślaj ich.
2. Do każdego zapisz oczekiwaną odpowiedź i dokument, z którego ma pochodzić. To jest Twój zestaw kontrolny i będzie służył przez cały czas życia systemu.
3. Sprawdź nie tylko trafność odpowiedzi, ale i to, czy przypis wskazuje właściwy dokument. Poprawna odpowiedź z błędnym źródłem to ostrzeżenie, nie sukces.
4. Dorzuć pięć pytań, na które w dokumentach nie ma odpowiedzi. Dobry system powie „nie wiem”. System, który zmyśli cztery z pięciu, nie nadaje się do kontaktu z klientem.
5. Powtórz ten sam zestaw po miesiącu i po kwartale. Bez tego pogorszenie jakości wyjdzie na jaw dopiero przy reklamacji.

Obowiązki formalne, o których warto pamiętać

Asystent wewnętrzny jest pod tym względem łatwiejszy niż chatbot dla klientów, ale dwie rzeczy trzeba zamknąć. Po pierwsze RODO: dokumenty firmowe prawie zawsze zawierają dane osobowe, więc potrzebna jest umowa powierzenia z dostawcą modelu i decyzja, co do indeksu nie trafia w ogóle. Po drugie — jeżeli asystent w jakiejkolwiek formie odzywa się do osoby z zewnątrz, wchodzi obowiązek informowania, że rozmówcą jest AI, który opisaliśmy w tekście o AI Act w małej firmie.

Warto też zauważyć, że firmowy asystent jest najskuteczniejszą znaną nam odpowiedzią na shadow AI. Ludzie wklejają fragmenty umów do prywatnego ChatGPT nie z przekory, tylko dlatego, że nie mają narzędzia, które zna kontekst firmy. Gdy takie narzędzie się pojawia, ruch na zewnątrz spada sam.

Od czego zacząć

Zacznij od jednego pytania: jakie pytanie pada w Twojej firmie najczęściej i ile razy w tygodniu ktoś traci przez nie kwadrans? Jeśli potrafisz je nazwać i wskazać dokument, w którym leży odpowiedź, masz gotowy zakres pilota. Jeśli nie potrafisz wskazać dokumentu — masz odpowiedź, od czego zacząć naprawdę.

Robimy to w tej kolejności: przegląd źródeł i uprawnień, wąski pilot na jednym zbiorze, zestaw pytań kontrolnych, dopiero potem rozszerzanie na kolejne działy. Jeśli chcesz porozmawiać o tym, jak wygląda Twój przypadek — umów bezpłatną konsultację. Zakres naszej pracy przy konsultingu i wdrożeniach AI opisaliśmy osobno, a jeśli nie masz pewności, od którego procesu zacząć, punktem wyjścia jest audyt AI.