Czy AI może kłamać? Kiedy zmyśla, skąd to się bierze i jak sprawdzić odpowiedź

Czy AI może kłamać? Tak, potrafi podać nieprawdę, ale zwykle robi to bez intencji. Model językowy, czyli silnik pod ChatGPT, Claude czy Gemini, przewiduje kolejne słowa. Zmyśla, gdy brakuje mu danych albo jasnej instrukcji. Część błędów bierze się też z tego, jak go wytrenowano, więc każdą ważną odpowiedź sprawdź, zanim zrobisz z niej użytek.

Czy AI może kłamać, czy raczej zmyśla?

Kłamstwo a halucynacja: na czym polega różnica

Czy AI może kłamać? Zależy, co nazwiesz kłamstwem. Kłamstwo to świadome mówienie nieprawdy, żeby ktoś uwierzył w fałsz. Zmyślanie (w branży: halucynacja) to dopowiadanie najbardziej prawdopodobnych słów tam, gdzie model nie ma wiedzy, bez żadnego zamiaru.

Artykuł OpenAI „Why Language Models Hallucinate” pokazuje, że halucynacje biorą się z tego, jak trenuje się i ocenia modele. Nie przeczy to temu, co wyżej: model nie ma zamiaru. Trening nagradza odpowiedź, więc model woli zgadnąć niż przyznać się do niewiedzy.

Problem zaczyna się, gdy model brzmi pewnie, a się myli. Opisałem to dokładniej w osobnym wpisie.

Dlaczego to rozróżnienie ma znaczenie dla firmy

Od tego, czy AI może kłamać, czy tylko zmyśla, zależy, jak kontrolujesz jej odpowiedzi. Część halucynacji bierze się z tego, że trening zachęca model, by zawsze zgadywał kolejne słowo. Możesz więc dopisać do polecenia, że wolisz „nie wiem” od zgadywania.

Zatajanie informacji to inny problem niż zgadywanie. Model streszcza umowę z dostawcą i pomija zapis o karze umownej, który w dokumencie jest. Przy ważnych decyzjach ostatnie słowo należy do człowieka.

Użytkownicy piszą, że model potrafi napisać coś, co brzmi wiarygodnie, choć bywa błędne albo niepełne. Laik nie przewidzi, w których miejscach zawiedzie.

Odpowiedź jest wiarygodna tylko na pozór, gdy:

• Podaje dokładne liczby, nazwiska albo sygnatury, ale nie wskazuje, skąd je wzięła.
• Brzmi pewnie od pierwszego do ostatniego zdania i ani razu nie przyznaje się do niepewności.
• Zmienia szczegóły, gdy zadasz to samo pytanie drugi raz, bo model nie daje za każdym razem identycznej odpowiedzi.

Dlaczego AI zmyśla zamiast powiedzieć „nie wiem”?

Model przewiduje kolejne słowa i nie sprawdza faktów

Dlaczego model nie powie „nie wiem”? Zacznij od tego, jak działa model językowy. Uczy się wzorców z ogromnych zbiorów tekstu. Na podstawie kontekstu przewiduje kolejne słowa, jak podpowiedzi w klawiaturze telefonu. Po słowie „dzień” podsuwa „dobry”, bo tak najczęściej bywa w tekstach. Po drodze nie zagląda do żadnej bazy faktów.

Model stara się być spójny i logiczny. Spójność jeszcze niczego nie dowodzi. Faktura może być starannie wypełniona i mieć numer NIP, który nie należy do nikogo. Dlatego obok trafnych odpowiedzi pojawiają się błędy i halucynacje. Dłuższe wyjaśnienie znajdziesz w tekście o tym, jak myśli AI.

Dlaczego instrukcja i wersja modelu zmieniają wynik

Ten sam model zmyśla raz więcej, raz mniej. Nasilają to trzy czynniki:

• Rozmiar zadania: im większą porcję pracy zlecasz naraz, tym więcej szczegółów, w których model może się pomylić, a Ty tego nie zauważysz.
• Przykład w instrukcji: model chętnie przepisuje szczegóły z przykładu, który sam mu wkleiłeś, nawet gdy do sprawy nie pasują.
• Wersja modelu: model po dodatkowym treningu potrafi zmyślać częściej niż jego wcześniejsza wersja, choć polecenie zostaje to samo.

Przykład z życia: użytkownicy opisują model, który miał streścić nagranie rozmowy z klientem, na którym nie było dźwięku. Zmyślił wypowiedź „w piątek o piątej”, a ta fraza pochodziła z przykładu w poleceniu firmy.

Samo wyrzucenie przykładu nie rozwiązuje sprawy. Po jego usunięciu model nadal wymyślał inny dialog zamiast napisać, że nagranie jest ciche. Dodatkowy trening nauczył go coś odpowiadać.

Autor tego opisu zmienił ten przykład na „we wtorek w południe”. Odsetek zmyśleń wzrósł u niego z 37% do 50%.

Jeszcze mocniej wynik zmienia wersja modelu. W tym samym teście wersje sprzed dodatkowego treningu zmyślały u niego w 0–2% przypadków. Model po dodatkowym treningu zmyślał w około 12%.

Zły przykład w poleceniu nie robi z modelu kłamcy, ale podsuwa mu fałszywe szczegóły do przepisania. W opisanym teście zmiana jednego zdania lub wersji modelu zmieniła wynik. Zapisuj więc, które polecenie i którą wersję modelu sprawdzałeś.

Jak sprawdzić odpowiedź AI krok po kroku?

Odpowiedź AI i tak trafia do klienta pod Twoim nazwiskiem. Dlatego sprawdzasz ją sam. Poniżej masz tabelę kontrolną i pięć kroków.

Zadaj to samo pytanie drugi raz, inaczej

Model nie daje za każdym razem tej samej odpowiedzi, więc to samo pytanie zadane innymi słowami czasem pokazuje zgadywanie. Dlatego fakty porównuj z niezależnym źródłem.

Poproś o „nie wiem” i o podstawę odpowiedzi

Dwa najprostsze zabezpieczenia: napisz w poleceniu, że wolisz „nie wiem” od zgadywania, i każ podać podstawę każdego twierdzenia. Trzecia rzecz, przy długich dokumentach: niech model najpierw znajdzie cytaty, a dopiero potem odpowie.

Brak podstawy to sygnał, że model zgaduje. Kłamstwo z premedytacją to osobna sprawa. W codziennej pracy częściej spotkasz zmyślenie podane pewnym tonem i bez źródła.

Dziel duże zlecenia na mniejsze części

Poznańscy naukowcy i studenci sprawdzali treści AI, w które celowo wpisano fałszywe dane. Najtrudniej było wychwycić fałsz w długich tekstach. Użytkownicy widzą to samo, gdy model opisuje zdjęcia: im więcej przedmiotów na jednym zdjęciu, tym więcej zmyślonych podpisów.

Jeden z komentujących wyjaśnia, że model ma tyle samo czasu i mocy obliczeniowej na zdjęcie ze stu przedmiotami. Tyle samo ma na zdjęcie z dziesięcioma, więc jakość spada. Dlatego dziel zlecenie na części i pracuj jak centaur: AI pomaga, a wynik sprawdzasz Ty.

Pięć kroków przed użyciem odpowiedzi w firmie:

1. Zapisz polecenie i wersję modelu, której użyłeś, żeby móc powtórzyć sprawdzenie.
2. Podziel duże zadanie na mniejsze części i sprawdzaj je po kolei.
3. Zadaj to samo pytanie drugi raz innymi słowami i porównaj obie odpowiedzi.
4. Zażądaj podstawy dla każdej liczby, nazwy i daty, a potem potwierdź ją w niezależnym źródle.
5. Wyznacz jedną osobę, która zatwierdza odpowiedź, zanim trafi do klienta.

Czy sztuczna inteligencja jest niebezpieczna, gdy zmyśla, i komu nie ufać na ślepo?

Kiedy zmyślenie kosztuje najwięcej

Czy AI może kłamać, to pytanie o intencje. Groźniejsza jest sytuacja praktyczna: model zmyśla przekonująco, a Ty przyjmujesz odpowiedź bez sprawdzenia. Użytkownicy piszą, że wielu ludzi nie umie wychwycić błędów AI. Biorą jej odpowiedzi za pewnik, tak jak wcześniej fałszywe wiadomości w sieci.

Na ten temat ludzie wpisywali w wyszukiwarkę 40 różnych zapytań, a mój blog pojawił się w wynikach łącznie 6890 razy. Najczęstsze brzmiało „czy sztuczna inteligencja jest niebezpieczna” i pokazało go w wynikach 892 razy. Szerszy kontekst opisałem w osobnym wpisie, czyli czy AI jest niebezpieczna.

Zmyślenie kosztuje najwięcej tam, gdzie decydujesz o umowie z klientem, o podatku, o zatrudnieniu albo o cenie w ofercie. Tam odpowiedź AI wymaga nadzoru człowieka.

Prosta zasada na dziś

Czy AI może kłamać, czy tylko zmyśla, zasada zostaje ta sama: im wyższa stawka, tym więcej osób sprawdza odpowiedź. Podziel sprawdzanie odpowiedzi w firmie na trzy role:

• Osoba, która zleca zadanie, sprawdza każdą liczbę, nazwę i datę w niezależnym źródle.
• Druga osoba porównuje tekst przeznaczony dla klienta z dokumentem, z którego model miał korzystać.
• Właściciel firmy albo specjalista, na przykład księgowa lub prawnik, zatwierdza decyzje prawne, finansowe i kadrowe, zanim ktokolwiek je wykona.

Zostajesz przy narzędziu, którego odpowiedzi umiesz sprawdzić i które potrafi przyznać się do „nie wiem”. Zmieniasz je, gdy po aktualizacji wersji zaczyna zmyślać częściej przy tej samej instrukcji. Na przykład dopisuje do opisów produktów parametry, których nie podałeś.

Najczęstsze pytania