Dłoń człowieka wskazująca dłoń robota, ilustracja do wpisu o nadzorze człowieka nad AI

Mały biznes

AI pod kontrolą? Sprawdź człowieka, nie tylko model

Poradnik · 9 min czytania · 19 listopada 2026

Obecność człowieka przy odpowiedzi AI nie jest jeszcze nadzorem: skuteczna kontrola wymaga uprawnień, czasu, dowodów i prawa do odmowy, a nie tylko przycisku „Akceptuj”. Zanim więc ocenisz model, sprawdź osobę, która ma go kontrolować, oraz to, co system może zrobić po jej kliknięciu. Niżej podział zdolności, uprawnień i odpowiedzialności, karta dowodowa wyniku oraz ochrona przed ukrytymi poleceniami i podwójnym wykonaniem.

3 pytania

zdolność, uprawnienie i odpowiedzialność to trzy różne sprawy.

5 elementów

karty dowodowej wyniku pokazywanej kontrolerowi.

OWASP

opisuje nadmierną sprawczość i ukryte polecenia jako osobne ryzyka.

01 · ZADANIE

Czy zadanie w ogóle wymaga modelu językowego?

„Pracownik zatwierdza wynik” brzmi jak zabezpieczenie. Ale co, jeśli zatwierdza bez sprawdzenia źródła, bo musi przejrzeć kolejkę dokumentów?

To hipotetyczny scenariusz i ważna luka w dyskusji o AI: obecność człowieka nie oznacza jeszcze skutecznego nadzoru. Trzeba zaprojektować zarówno działanie modelu, jak i pracę osoby kontrolującej.

Przekazanie formularza do tabeli lub pobranie ceny według kodu produktu można oprzeć na stałej regule. AI ma inne zastosowanie: interpretowanie różnie napisanych wiadomości, streszczanie, przygotowanie szkicu. To proponowany podział redakcyjny, nie sztywna granica technologiczna.

Dobrym wariantem jest połączenie: model rozpoznaje temat, system pobiera cenę z zatwierdzonej bazy, człowiek ocenia wyjątek. Nie proś modelu o odtwarzanie z pamięci danych, które masz w systemie.

02 · UPRAWNIENIA

Jak rozdzielić zdolność, uprawnienie i odpowiedzialność?

To trzy różne pytania. Model może umieć przygotować ofertę, ale nie powinien automatycznie mieć prawa jej wysyłać. Nawet jeśli wysyłkę dopuszczono, trzeba wskazać osobę odpowiadającą za konfigurację i obsługę incydentu.

Infografika: trzy osobne pytania przy wdrażaniu AI, zdolność modelu, uprawnienie do wykonania operacji i odpowiedzialność za konfigurację oraz obsługę incydentu

Zdolność, uprawnienie, odpowiedzialność. Opracowanie własne.

UPRAWNIENIE DO ZADANIA

Zadanie

Początkowe uprawnienie

Kontrola

Streszczenie notatki

Odczyt wybranego materiału.

Pominięcia i sens ustaleń.

Odpowiedź klientowi

Zapis wersji roboczej.

Fakty, odbiorca i zobowiązania.

Oferta

Przygotowanie z zatwierdzonych danych.

Ceny, zakres, wersja cennika.

Zmiana w CRM

Propozycja zmiany konkretnych pól.

Walidacja i historia zmian.

Operacja finansowa

Zbieranie danych do decyzji.

Autoryzacja poza swobodną decyzją modelu.

OWASP w opisie nadmiernej sprawczości wskazuje ryzyko nadmiaru funkcji, uprawnień i autonomii. Asystent czytający pocztę nie musi móc jej usuwać, a przygotowujący dokument nie musi mieć dostępu do całego dysku.

03 · CZŁOWIEK W PĘTLI

Dlaczego sam „człowiek w pętli” nie wystarcza?

NIST w AI Risk Management Framework wskazuje, że role i odpowiedzialności w układach człowiek-AI trzeba jasno określić. Opisuje również możliwość wzmacniania ludzkich błędów poznawczych w interakcji z systemem.

ZABEZPIECZENIE BEZ SPRAWDZENIA

Przycisk „Akceptuj” nie rozwiązuje problemu, jeśli kontroler nie ma czasu, wiedzy i danych do oceny. Sprawdź, czy może odrzucić, i czy odrzucenie nie jest karane.

Nie zakładaj więc, że dodatkowy przycisk „Akceptuj” rozwiązał problem. Sprawdź, czy kontroler ma czas, wiedzę i dane do oceny. Czy widzi źródło ceny? Czy może odrzucić dokument? Czy odrzucenie nie jest traktowane jak niewykonanie normy?

Proponowany test redakcyjny: w odizolowanym zestawie szkoleniowym umieść znane błędy i sprawdź ich wykrywanie. Nie wprowadzaj ich do prawdziwej korespondencji. Celem jest ocena kontroli, nie zaskakiwanie pracowników.

04 · DOWODY

Jak wygląda karta dowodowa wyniku?

Zamiast samego eleganckiego tekstu pokaż kontrolerowi krótki zestaw informacji:

1

dane wejściowe, na których oparto propozycję;

2

źródła kluczowych faktów i datę ich wersji;

3

elementy brakujące lub sprzeczne;

4

operację, która nastąpi po akceptacji;

5

odbiorcę, zakres danych i możliwość cofnięcia.

Infografika: pięć elementów karty dowodowej wyniku AI, dane wejściowe, źródła faktów z datą wersji, braki i sprzeczności, operacja po akceptacji oraz odbiorca z zakresem danych i możliwością cofnięcia

Karta dowodowa wyniku. Opracowanie własne.

To propozycja interfejsu kontroli. Nie wymaga ujawniania wewnętrznego toku rozumowania modelu. Potrzebne są sprawdzalne przesłanki i plan działania, nie długa narracja o tym, dlaczego odpowiedź „wydaje się” poprawna.

05 · UKRYTE POLECENIA

Co zrobić z poleceniami ukrytymi w dokumentach?

OWASP w zaleceniach przeciw wstrzykiwaniu poleceń (prompt injection) traktuje materiały zewnętrzne jako niezaufane dane. E-mail lub załącznik może zawierać treść próbującą zmienić działanie systemu.

Polecenie „ignoruj inne instrukcje” w otrzymanym dokumencie nie powinno stawać się uprawnieniem do wysłania plików. Ochrona obejmuje ograniczenie narzędzi, sprawdzanie parametrów wywołań i akceptację istotnych operacji. Sam zapis w instrukcji dla modelu nie zastępuje kontroli technicznej.

06 · PODWÓJNE WYKONANIE

Jak uniknąć podwójnego wykonania operacji?

Osobny problem to ponowienie po błędzie połączenia. System nie dostał odpowiedzi, ale operacja mogła już się wykonać. Ponowna próba może wtedy utworzyć drugi rekord lub uruchomić działanie drugi raz.

Przykładem zabezpieczenia są klucze idempotencji opisane w dokumentacji Stripe. W obsługiwanych operacjach pozwalają rozpoznać ponowienie tego samego żądania. To przykład wzorca, nie twierdzenie, że każde API oferuje identyczny mechanizm lub czas ochrony.

Zapytaj wykonawcę: jak identyfikowana jest operacja, gdzie zapisuje się jej wynik i jak sprawdzany jest nieznany status? Nie uznawaj „spróbujemy jeszcze raz” za kompletną obsługę błędu.

07 · ODMOWA

Kiedy system powinien się powstrzymać?

Zdefiniuj warunki odmowy wykonania: brak aktualnej ceny, konflikt danych, nieznany odbiorca, przekroczony zakres uprawnień. Przekazanie sprawy człowiekowi jest poprawnym wynikiem, jeśli proces tego wymaga.

ZDEFINIUJ ODMOWĘ

Brak aktualnej ceny, konflikt danych, nieznany odbiorca albo przekroczony zakres uprawnień to powody do przekazania sprawy człowiekowi.

NIE UFAJ DEKLARACJI

Deklaracja modelu „jestem pewny” nie jest warunkiem działania. Oprzyj warunek na danych i regułach biznesowych.

08 · UTRZYMANIE

Jak utrzymać kontrolę po wdrożeniu?

Mierz czas do zaakceptowanego wyniku, błędy istotne, poprawki i sprawy przekazane ręcznie. Testuj ponownie po zmianie modelu, narzędzi, dokumentów lub instrukcji. Zapewnij możliwość wyłączenia automatyzacji i przejęcia kolejki przez człowieka.

Ocena redakcji: bez realnej możliwości sprawdzenia dowodów, odmowy i zatrzymania działania firma może automatyzować akceptowanie błędów zamiast pracę.

Skuteczny nadzór to nie podpis pod odpowiedzią. To prawo do sprawdzenia, odmowy i zatrzymania.

Nie sprawdzaj tylko modelu. Sprawdź też tego, kto ma go kontrolować. 🙂