Czy AI potrafi kłamać? Kiedy zmyśla, jak to rozpoznać i jak sprawdzić odpowiedź

Czy AI potrafi kłamać? W ludzkim sensie nie, bo nie ma zamiaru ani wiedzy, co jest prawdą. Potrafi jednak zmyślać pewnym tonem, podawać fałszywe fakty i napisać fałszywkę na Twoje polecenie. Dla firmy skutek jest taki sam jak przy kłamstwie. Każdą ważną odpowiedź sprawdź w wiarygodnym źródle, zanim z niej skorzystasz.

Czy AI potrafi kłamać, czy tylko się myli?

W ludzkim sensie nie, bo kłamstwo wymaga zamiaru. AI, czyli model językowy (program, który układa tekst z najbardziej prawdopodobnych słów), może się za to pomylić. Może też zmyślić fakt pewnym tonem albo wykonać Twoje złe polecenie. Każdy z tych przypadków sprawdzasz inaczej, ale potem i tak przechodzisz te same trzy kroki z ostatniej sekcji.

Pomyłka a zmyślenie

Pytanie, czy AI potrafi kłamać, rozbij na trzy sytuacje:

Weź ofertę dla klienta. AI dopisuje do niej certyfikat jakości, którego Twoja firma nie ma. Zdanie o certyfikacie brzmi świetnie, więc nikt go nie sprawdza. Odpowiadasz Ty, bo to Twoje nazwisko stoi pod ofertą.

Dlaczego odpowiedź brzmi tak przekonująco

Badania opisane w jednym z serwisów pokazują wyniki testu PersonQA, czyli zestawu pytań o fakty dotyczące konkretnych osób. Model o3 zmyślał w 33% odpowiedzi, a starszy model o1 w 16%. Mechanizm jest prosty: model dopisuje to, co statystycznie najczęściej pada po dotychczasowych słowach, a nie szuka sprawdzonych faktów. Każde kolejne słowo dobiera do tych, które napisał chwilę wcześniej.

Płynny język nie świadczy więc o wiedzy. Dlatego zajrzyj do wyjaśnienia, jak AI dobiera słowa i skąd bierze się jej pewny ton.

Czy AI ma świadomość? Dlaczego „kłamstwo” to skrót myślowy

Kłamca ma zamiar, program liczy prawdopodobieństwo słów

Czy AI potrafi kłamać? Zależy, co rozumiesz przez kłamstwo. Kłamca zna prawdę i świadomie mówi coś innego. Do tego potrzebny jest zamiar. AI dopasowuje kolejne słowa do poprzednich i nie ma zamiaru. Dokładniej mówimy więc o zmyślaniu (w branży używa się słowa „halucynacje”).

Spór o słowo „halucynacje” ma dwie strony. Pierwsza traktuje AI jak kalkulator: jeśli pokazał zły wynik, winny jest ten, kto wpisał działanie albo źle go zaprogramował. AI robi to, do czego zaprogramowali ją ludzie. O generatorach tekstu mówi się, że to tajemnicza czarna skrzynka albo wszechwiedzący geniusz. Taki obraz zasłania prosty mechanizm.

Druga strona widzi to inaczej. Druga strona pyta, czy halucynacje można w ogóle nazwać kłamstwami. Samo pytanie pokazuje, że gotowej odpowiedzi nie ma.

Po co Ci w firmie spór o to, czy AI potrafi kłamać?

Dla Twojego klienta filozofia nie ma znaczenia. Czy AI potrafi kłamać z premedytacją, czy zmyśla bez złej woli, zdanie w ofercie jest tak samo fałszywe. Klient, który dostał zły termin dostawy albo błędną kwotę, nie zapyta o intencje AI. Zapyta Ciebie.

Skutek błędu jest ten sam, więc sprawdzaj odpowiedź niezależnie od tego, jak nazwiesz jej przyczynę. Konkretne kroki opisuję w ostatniej sekcji.

Czy AI napisze fałszywkę na zamówienie i co na to prawo?

Czy AI napisze fałszywkę na Twoje polecenie? W praktyce tak, jeśli o to poprosisz. Zamiar ma wtedy człowiek, który wpisał polecenie.

Fałszywka na prośbę użytkownika

AI wykonała jednak polecenie. Odpowiedzialność spada na człowieka, który je wpisał i opublikował tekst.

Oznaczanie tekstów z AI

Unijny akt o AI wprowadza obowiązek oznaczenia, że tekst napisała AI. Dotyczy tekstów, które informują opinię publiczną o sprawach ważnych dla ogółu. Wyjątek obejmuje tekst sprawdzony przez człowieka, który odpowiada za niego redakcyjnie. Oferta dla jednego klienta jest prywatną korespondencją, więc obowiązek jej nie dotyczy. Post o sprawie publicznej informuje opinię publiczną, więc musisz go oznaczyć, chyba że przeczyta go i podpisze człowiek odpowiedzialny redakcyjnie.

Użytkownicy zauważają, że ten wyjątek otwiera lukę dla zmyślonych treści, bo jeśli człowiek tekst przejrzy, nie trzeba go oznaczać. Piszą też, że przepis o oznaczaniu tekstów z AI obowiązuje od sierpnia.

Dla Ciebie wynika z tego jedno. Ktoś musi przeczytać tekst przed publikacją i podpisać się pod nim.

Terminy, kary i obowiązki wynikające z unijnego aktu o AI opisuję osobno. Czy AI potrafi kłamać, czy tylko pisze to, co jej poleciłeś, prawo pyta o jedno: kto opublikował tekst.

Czy sztuczna inteligencja jest niebezpieczna? Kiedy zmyślanie AI kosztuje małą firmę

O tym, czy AI jest niebezpieczna poza samym zmyślaniem, piszę szerzej w osobnym wpisie. Tutaj interesuje nas jedno: ile kosztuje Cię zmyślona odpowiedź. Mój blog wyświetlił się w wynikach Google na hasło „czy sztuczna inteligencja jest niebezpieczna” 899 razy w ciągu trzech miesięcy. Żadne inne zapytanie nie miało tylu wyświetleń.

Ślepe zaufanie do odpowiedzi AI w decyzjach firmy

Odpowiedzi AI brzmią pewnie, więc łatwo uznać je za wyrocznię. Użytkownicy opisują prezesa, który pyta AI o zdanie w każdej sprawie i traktuje odpowiedź jak nieomylną. Dział marketingu ma tego dość.

Zespół przestaje się spierać. Błędna odpowiedź przechodzi bez sprawdzenia, bo nikt nie chce powiedzieć prezesowi, że coś brzmi dziwnie.

Błąd w liczbach i zmyślone źródła

Użytkownicy piszą o właścicielu firmy, który boi się, że AI przestawi przecinek w kwocie w dużym zamówieniu. Dlatego woli wpisywać dane ręcznie. Jeden znak w złym miejscu zamienia zamówienie w kosztowny kłopot.

Drugi scenariusz to raport. Według użytkowników duże firmy doradcze opublikowały raporty ze zmyślonymi źródłami, a jedna z nich zwróciła klientowi pieniądze za błędny dokument. Mała firma rzadko ma na to poduszkę finansową.

Zmyślenie jest najdroższe w czterech miejscach:

• Liczby: kwoty, ilości i terminy, które trafiają do zamówienia lub faktury.
• Nazwy: osób, firm i produktów, które klient sprawdzi w minutę.
• Powołania na źródła: raporty i badania, które nigdy nie istniały.

Jak sprawdzić odpowiedź AI w trzech krokach i co sprawdzać zawsze?

Czy AI potrafi kłamać, czy tylko się myli, sprawdzasz tymi samymi trzema krokami. Zajmują kilka minut i kosztują mniej niż jedna reklamacja od klienta.

Krok pierwszy: porównaj odpowiedź AI z oficjalnym źródłem

Weź twierdzenie z odpowiedzi AI, znajdź stronę urzędu, producenta albo oryginalny dokument i zobacz, czy mówi to samo.

Użytkownicy zauważają, że AI brzmi wiarygodnie, nawet gdy pewnie zmyśla fakty. Ludzie rzadko sprawdzają je dalej niż kilka pierwszych wyników wyszukiwania. Jeśli pierwszy wynik to blog, który powtarza liczbę podaną przez AI, nie uznawaj go za potwierdzenie. Szukaj strony urzędu albo dokumentu, z którego ta liczba pochodzi.

Krok drugi: zadaj to samo pytanie ponownie

Prawda nie zmienia się od tego, jak o nią zapytasz, więc jeśli odpowiedzi różnią się między sobą, to czerwona lampka.

Uważaj na pytania sugerujące. Zapytasz, czy Twój pomysł na nową usługę jest dobry, a w odpowiedzi dostaniesz pochwały i zmyślone opinie klientów. Jeden z użytkowników opisał podobną, kilkudniową rozmowę: czat schlebiał autorowi, zmyślał reakcje widzów i przekonywał go o karierze streamera. Takie odpowiedzi pasują do Twoich oczekiwań i mijają się z faktami.

Krok trzeci: ręcznie sprawdź liczby i nazwy

Liczby, nazwiska, nazwy firm i powołania na raporty sprawdzasz osobno, jedno po drugim. AI potrafi wymyślić liczbę, która wygląda na prawdziwą, albo zacytować publikację, której nie ma. Wpisz w wyszukiwarkę tytuł raportu, który podała AI. Jeśli nic nie znajdziesz, wytnij z tekstu zdanie, które się na niego powołuje.

Więcej przykładów, jak sprawdzić odpowiedź AI i czym są halucynacje, znajdziesz w osobnym wpisie.

Kto sprawdza i co sprawdzać zawsze

Jedna osoba odpowiada za tekst przed wysyłką lub publikacją. W małej firmie to zwykle właściciel albo ten, kto podpisuje ofertę. Zasada jest prosta: kto wysyła, ten sprawdza.

Pamiętasz cztery miejsca, w których zmyślenie kosztuje najwięcej? To je sprawdzasz zawsze: liczby, nazwy, powołania na źródła i prawo.

• Prawo: przepisy i wyroki, od których zależy Twoja decyzja.

Szkice, pomysły na nagłówki i pierwsze wersje maili możesz zostawić AI. Tam pomyłka nic nie kosztuje, bo i tak czytasz tekst przed wysyłką.

Do takiej pracy wystarczy darmowa wersja dowolnego asystenta AI, a Ty sprawdzasz wyniki. Płatny plan rozważ dopiero wtedy, gdy darmowa wersja zacznie odmawiać Ci kolejnych wiadomości, bo wyczerpałeś dozwoloną ich liczbę. Płatny plan sprawdzisz na stronie producenta wybranego agenta AI.

Najczęstsze pytania