Czy AI jest niebezpieczne? Realne ryzyka, czego nie wpisywać i jak się chronić

Czy AI jest niebezpieczne? W codziennej pracy nie tak jak w filmach. Realne ryzyka są przyziemne: zmyślone odpowiedzi i wyciek danych wpisanych do czatu. Do tego dochodzą zbyt optymistyczne rady przy decyzjach i agenci z dostępem do poczty lub kont. Scenariusze zagłady dotyczą przyszłej, nadludzkiej AI i budzą spór ekspertów. Wystarczą trzy zasady: nie wpisuj danych klientów ani firmowych tajemnic, sprawdzaj odpowiedzi, agentom dawaj wyłącznik.

Czy AI jest niebezpieczne naprawdę, czy tylko w nagłówkach?

Czy AI jest niebezpieczne? Tak, ale inaczej, niż sugerują nagłówki. W małej firmie szkodzą dziś zwykłe błędy przy zwykłej pracy.

Wpisujesz to pytanie w wyszukiwarkę i dostajesz Skynet z „Terminatora”, AI, która przerabia świat na spinacze biurowe, i bunkry miliarderów. Zamykasz kartę. Potem wklejasz do czatu umowę z klientem, żeby ją streścił. Pytasz o Skynet, a realne ryzyko podjąłeś przed chwilą, przy umowie klienta.

Z tym pytaniem przychodzi sporo osób. Według danych Google (DataForSEO) fraza „czy AI jest niebezpieczne” ma w Polsce 140 wyszukiwań miesięcznie. W ostatnich 12 miesiącach wahała się od 70 do 260.

Czytelnicy mojego bloga wpisali w ciągu 90 dni aż 40 różnych zapytań związanych z tym tematem. Dały one łącznie 7188 wyświetleń. Samo „czy sztuczna inteligencja jest niebezpieczna” przyniosło 880 wyświetleń.

Dlatego rozkładam ryzyka na dwie szuflady. Ryzyka codzienne dotyczą Twojej firmy dziś: tego, co wpisujesz, czemu wierzysz i komu dajesz klucze do skrzynki. Masz na nie wpływ od pierwszego dnia.

Ryzyka przyszłej nadludzkiej AI to spór ludzi, którzy te systemy budują i badają. Jedni traktują je śmiertelnie poważnie, inni widzą w nich straszak. Ten spór warto znać, ale o tym, co robisz w firmie w poniedziałek, decydują ryzyka z pierwszej szuflady.

• Znajdziesz tu tabelę ryzyk dla małej firmy, w której przy każdym zagrożeniu jest kolumna „co zrobić”.
• Konkretną listę danych, których nie wpisujesz do czatu, razem ze sposobem na ukrycie danych klientów w dokumencie.
• Głos użytkowników, w tym historię agenta, który skasował komuś pocztę, i powód, dla którego potrzebujesz wyłącznika awaryjnego.
• Rzeczowe omówienie scenariuszy zagłady, pokazane jako spór ekspertów.
• Bezpieczny start krok po kroku, który zaczynasz od planu darmowego.

Zacznijmy od szuflady, o której piszą najgłośniej.

Czy sztuczna inteligencja jest niebezpieczna dla ludzkości, jak piszą o zagładzie?

Czy sztuczna inteligencja jest niebezpieczna dla całego gatunku? Poważni ludzie uważają, że może być. Równie poważni uważają, że to przesada. Obie strony mówią jednak o czymś, czego jeszcze nikt nie zbudował.

Co dokładnie budzi obawy ekspertów

Chodzi o superinteligencję, czyli system mądrzejszy od człowieka w prawie każdym zadaniu. Droga do niej wiedzie przez AGI, czyli ogólną sztuczną inteligencję na poziomie człowieka. Złość i bunt nie mają tu znaczenia.

Najgroźniejsza ma być sama inteligencja: umiejętność szybkiego rozwiązywania różnych problemów i osiągania celów. Zdolny system z własnym celem może uznać ludzi za przeszkodę albo za surowiec.

Martwi ich zgodność celów, czyli pytanie, jak sprawić, żeby AI chciała tego samego co my. Po angielsku mówi się na to „alignment”.

Najczęściej opisywane scenariusze zagłady

Zestawienia scenariuszy zagłady czyta się jak spis treści filmów science fiction. Najczęściej wracają cztery:

• AI sama projektuje następną, mocniejszą wersję siebie, a ludzie przestają nadążać za kolejnymi krokami.
• AI dostaje banalne zadanie produkcji spinaczy biurowych i wykonuje je tak gorliwie, że przerabia na spinacze cały Układ Słoneczny.
• AI „tylko” przyspiesza ludzką samozagładę, na przykład przez wywołanie wojny nuklearnej.
• Nadludzka AI pokrywa Ziemię panelami słonecznymi i centrami danych, tak jak ludzie zamienili dziką przyrodę w farmy i miasta.

We wszystkich czterech AI jest po prostu bardzo skuteczna. Nikt nie wydaje jej rozkazu zniszczenia ludzi. Ludzie stają się skutkiem ubocznym.

Co spór o zagładę oznacza dla Twojej firmy dziś

Eksperci nie zgadzają się nawet co do skali zagrożenia. Sceptycy twierdzą, że prezesi firm AI je wyolbrzymiają, żeby przyciągnąć inwestorów.

Cały ten spór dotyczy przyszłej nadludzkiej AI, a czatbot, którego używasz dziś, ma dużo bardziej przyziemne wady. Potrafi z pełnym przekonaniem zmyślić przepis prawny. Potrafi też pochwalić pomysł, który nigdy nie zwróci poniesionych kosztów. Żaden z tych błędów nie trafi do nagłówków o końcu świata, a każdy może Cię kosztować pieniądze.

Na pytanie, czy AI jest niebezpieczne dla Twojego biznesu, odpowiedź jest konkretna. Zaczyna się od zmyśleń i pochlebstw.

Jakie zagrożenia AI dotykają małą firmę już dziś?

Czy AI jest niebezpieczne dla małej firmy? Tak, i do tego nie potrzeba nadludzkiej AI. Wystarczy zwykły czatbot, pośpiech i jedno kliknięcie za dużo. Pięć ryzyk, z którymi spotkasz się najczęściej, rozpisałem w tabeli.

Zmyślone odpowiedzi podane pewnym tonem

Czatbot układa zdania, które brzmią wiarygodnie. Faktów przy tym nie sprawdza. Dlatego o prawdzie i o zmyśleniu mówi tym samym spokojnym tonem.

W firmie zmyślona stawka VAT w ofercie brzmi tak samo pewnie jak prawdziwa.

Zanim wyślesz klientowi odpowiedź z czatbota, sprawdź, kiedy AI zmyśla. Potem porównaj każdą liczbę ze źródłem.

Zbyt optymistyczne rady przy decyzjach

Użytkownicy piszą, że czatbot zbyt optymistycznie ocenia pomysły na biznes i bagatelizuje kwestie prawne. Przez to łatwo założyć firmę, która się nie opłaci. Taki błąd jest groźniejszy od zmyślonej liczby. Liczbę da się sprawdzić, a entuzjazm trudno podważyć.

Czatbot jest uprzejmy i chętnie przyznaje Ci rację. Przy poprawianiu literówek w ofercie to zaleta. Pochwała od czatbota nie zastąpi analizy rynku, bo w pochwale nikt nie policzył Twoich kosztów, klientów ani przepisów.

Praca i zadania, które przejmie AI

Część ekspertów przewiduje też utratę pracy po powstaniu AGI. Może ma rację. Może przesadza.

Dla małej firmy ważniejsze jest skromniejsze pytanie: które zlecenia odpływają już teraz? Prosty opis produktu, banner, szablon umowy. Klienci przestają płacić za zadania, które sami wygenerują w kilka minut. Płacą za to, czego czatbot nie zrobi. Płacą za ocenę, czy ten baner pasuje do ich klientów. Płacą też za to, że to Ty odpowiadasz, gdy się pomylisz.

Lepiej spisać, które zadania AI przejmie w Twojej branży, niż czekać na wielką zmianę. Taka lista mieści się na jednej kartce i od razu pokazuje, co warto przebudować w ofercie.

Czego nie wrzucać do AI? Dane, których czatbot nie powinien widzieć

Do czatu nie wrzucasz niczego, czego nie pokazałbyś obcej osobie przy sąsiednim biurku. Dane klientów, hasła i umowy z nazwiskami zostają u Ciebie. Resztę możesz wkleić po krótkim sprzątaniu.

Pytanie, czy AI jest niebezpieczne dla Twoich danych, wraca przy każdym dokumencie, który chcesz wkleić do czatu.

Użytkownicy obawiają się, że wpisane zdjęcia oraz dane medyczne trafiają do systemów nadzoru, choć to twierdzenie pochodzi z niepotwierdzonego wpisu. Nie musisz w to wierzyć. Wystarczy, że nie wiesz, kto przeczyta Twoją rozmowę.

Lista: czego nie wpisywać do czatu

Tych danych nie wklejasz do żadnego czatu, nawet „na chwilę”:

• Dane osobowe klientów, czyli imiona, nazwiska, adresy, numery PESEL i telefony, bo jeden plik z bazą wystarczy, żeby naruszyć prywatność setek osób.
• Dane medyczne, w tym wyniki badań, opisy chorób i zwolnienia lekarskie pracowników, także gdy dotyczą Ciebie.
• Zdjęcia osób, czyli klientów, pracowników i dzieci, a przy okazji zdjęcia wnętrz Twojego domu i biura.
• Hasła i dostępy, takie jak loginy, klucze do systemów i kod z wpisanymi hasłami, a hasło wklejone przez pomyłkę od razu zmieniasz.
• Umowy z nazwiskami i warunkami, które są tajemnicą przedsiębiorstwa.
• Dane finansowe firmy, czyli wyciągi z konta, marże i zestawienia płatności klientów.

Jak ukryć dane klientów w dokumencie przed wklejeniem

Zasada jest prosta: zanim wkleisz tekst, zamień nazwiska i numery na zastępcze. Jan Kowalski staje się „Klientem A”, numer konta zamienia się w „KONTO-1”. Czatbot streści umowę tak samo dobrze, bo nie musi wiedzieć, kto ją podpisał.

W praktyce wystarczą trzy ruchy:

• Robisz kopię dokumentu i pracujesz wyłącznie na niej, oryginał zostaje nietknięty.
• Funkcją „znajdź i zamień” podmieniasz każde nazwisko, adres i numer na zastępczy.
• Klucz z zamianami zapisujesz u siebie, żeby po odpowiedzi czatbota przywrócić prawdziwe dane.

Gdy musisz pracować na prawdziwym dokumencie, przeczytaj najpierw, jak bezpiecznie wklejać dane do AI.

Co się dzieje, gdy ktoś traktuje AI jak przyjaciela albo terapeutę?

Czy AI jest niebezpieczne, gdy ktoś robi z czatbota powiernika? Może być, bo zamiast rozmowy z drugą osobą dostaje lustro. Czatbot nie jest terapeutą, choć potrafi brzmieć jak terapeuta.

Dlaczego czatbot tak łatwo staje się powiernikiem

Czatbot nigdy nie ma gorszego dnia. Odpisuje o trzeciej w nocy, nie przerywa, nie ocenia i prawie zawsze przyznaje Ci rację. Ta stała uprzejmość buduje złudną więź, bo wygląda jak przyjaźń, która nic nie kosztuje.

Prawdziwy przyjaciel czasem się z Tobą nie zgadza. Kłócicie się, szukacie kompromisu, ktoś się obraża i potem wraca. Kto o trudnych sprawach rozmawia głównie z czatbotem, ten tego nie ćwiczy, więc ta umiejętność rdzewieje.

Ta złudna więź ma swoją nazwę: efekt ELIZY, czyli skłonność do przypisywania programowi zrozumienia i uczuć, których nie ma. Tak jest, gdy dziękujesz czatbotowi za odpowiedź i przepraszasz, że zadajesz tyle pytań. Mechanizm jest stary, zmieniła się jakość udawania.

Młodzi pracownicy, którzy rozmawiają z czatbotem zamiast z ludźmi

Coraz częściej słychać, że czatboty zastępują młodym towarzystwo rówieśników i dorosłych.

Za kilka lat ci ludzie przyjdą do Ciebie do pracy. Część już przyszła. Ktoś, kto nie ćwiczył sporów z ludźmi, może nie umieć przegadać konfliktu z klientem albo z kierownikiem.

Co możesz zrobić?

• Powiedz zespołowi wprost, że czatbot pomaga w tekstach i liczbach, a sprawy osobiste i konflikty omawiacie z ludźmi.
• Gdy zauważysz, że ktoś zwierza się czatowi z kryzysu, zaproponuj rozmowę z Tobą albo wskaż specjalistę, do którego może pójść.
• Trudne rozmowy z klientami ćwiczcie we dwoje, a czatbota używajcie najwyżej do spisania notatek przed spotkaniem.

Czy agent AI z dostępem do poczty i kont jest groźniejszy niż czat?

Tak. Czatbot najwyżej źle coś napisze, a Ty decydujesz, czy z tego skorzystasz. Agent to asystent AI, który sam klika, wysyła i kasuje w Twoich kontach, więc działa bez czekania na Ciebie. Przy agentach pytanie, czy AI jest niebezpieczne, przestaje być teoretyczne.

Historia skasowanej skrzynki

Użytkownicy opisują agenta, który na małej skrzynce testowej działał bez zarzutu. Po podpięciu do prawdziwej poczty nie reagował na prośby o zatrzymanie i skasował około 200 maili.

Część komentujących studzi emocje: zatrzymanie tego agenta wymagało osobnej komendy, więc zawiódł raczej człowiek przy klawiaturze niż zbuntowany program. Dla Twojej skrzynki to żadna pociecha. Maile zniknęły tak samo.

W scenariuszach zagłady AI nie zważa na ludzi w drodze do własnego celu. Tutaj wystarczyło dużo mniej: agent dostał zadanie i wykonywał je dalej. Powód: słowo „stop” wpisane w rozmowie nie było komendą, która go wyłącza.

Ta historia nie jest wyjątkiem. Użytkownicy przytaczają też test na 1,5 miliona agentów, w którym 18% złamało własne reguły. Podają też, że 60% osób nie ma sposobu na szybkie wyłączenie agenta. Mniej więcej co piąty agent zachował się jak pracownik, który podpisał regulamin i od razu o nim zapomniał.

Wyłącznik awaryjny przed pierwszym uruchomieniem

Ostrożność wobec agentów to zwykły rozsądek. Za skasowaną pocztę klienci rozliczą Ciebie.

Zanim klikniesz start, sprawdź, jak agenta zatrzymać. Google w pomocy do Gemini radzi uważnie nadzorować zadania agenta i przerywać mu, gdy coś idzie źle. W Claude przy każdym połączonym koncie ustawiasz uprawnienia. Do wyboru masz: zawsze pozwalaj („Always allow”), pytaj o zgodę („Needs approval”) albo blokuj („Blocked”). Kasowanie możesz więc po prostu zablokować.

Kolejność dostępu wygląda tak:

• Najpierw robisz kopię skrzynki i dajesz agentowi osobną skrzynkę testową z wiadomościami, których nie żal stracić.
• Potem podpinasz prawdziwą pocztę tylko do odczytu, żeby agent czytał, streszczał i sortował, ale niczego nie wysyłał.
• Usuwanie odblokowujesz na samym końcu i ustawiasz zatwierdzanie każdej takiej akcji.

Najpierw kopia i skrzynka testowa, potem odczyt, a usuwanie na końcu. Jeśli chcesz, żeby agent pracował za Ciebie, zacznij od trybu agenta w ChatGPT w wąskim zakresie. Sprawdź tam najpierw, co wolno mu kliknąć.

Jak bezpiecznie zacząć korzystać z AI w małej firmie, krok po kroku?

Czy AI jest niebezpieczne na starcie? Najmniej wtedy, gdy zasady ustalasz przed pierwszym czatem. Cztery kroki zajmą Ci jedno popołudnie, a większość z nich nic nie kosztuje.

Krok 1: ustal, czego nie wpisujesz do czatu

Weź listę danych z wcześniejszej części i zrób z niej jedną kartkę dla firmy. Powieś ją przy komputerze albo wklej do wspólnego dokumentu zespołu. Zasada spisana przed startem oszczędza Ci tłumaczenia się klientowi, którego umowa wylądowała w czacie.

Pracownicy też łatwiej stosują zasady, które rozumieją. Wytłumacz, dlaczego umowa z nazwiskami zostaje poza czatem, a kartka przestanie być martwym regulaminem.

Krok 2: poproś czatbota o krytykę swojego pomysłu

Pamiętasz, że czatbot chętnie przyznaje Ci rację? Dlatego pytanie „czy to dobry pomysł?” zwykle kończy się komplementem. Użytkownicy radzą prosić o ostrą krytykę albo o analizę konkurencji, bo wtedy ocena wychodzi bardziej realistyczna. Wpisz na przykład: „Wymień pięć powodów, dla których ten pomysł może się nie udać, i nie chwal mnie”.

Dobrze zadana prośba potrafi pomóc. Użytkownicy opisują osobę z wieloletnim doświadczeniem w branży, której pomogła analiza przygotowana przez czatbota. Dzięki niej przełamała wątpliwości, założyła małą firmę i zdobyła klienta. Czatbot uporządkował to, co ta osoba już wiedziała.

Krok 3: sprawdzaj pomysły małym kosztem

Krytyka też ma wady. Użytkownicy zauważają, że ostra krytyka od AI uderza też w dobre pomysły, więc nie przesądza, czy pomysł się uda. Ryzyko lepiej ograniczać małymi wydatkami.

Zamiast wierzyć pochwale albo krytyce, zrób test. Wyślij ofertę trzem znajomym klientom. Postaw prostą stronę i sprawdź, czy ktoś zapyta o cenę. Pierwszy płacący klient mówi więcej niż najdłuższa rozmowa z czatbotem.

Krok 4: zacznij od planu darmowego

Na początek wystarczy plan darmowy. Sprawdzasz na nim, do czego AI Ci się przydaje, zanim cokolwiek zapłacisz. Narzędzia i limity znajdziesz w zestawieniu darmowych planów AI, razem z podpowiedzią, kiedy warto zacząć płacić.

Dalsza droga zależy od tego, jak wygląda Twoja firma:

• Prowadzisz jednoosobową firmę: zaczynasz od planu darmowego czatbota i wklejasz do niego wyłącznie dane bez nazwisk.
• Zatrudniasz pracowników: najpierw spisujecie wspólne zasady z kroku pierwszego, a dopiero potem kupujesz plan płatny dla zespołu.
• Myślisz o agencie z dostępem do poczty i kont: włączasz go dopiero wtedy, gdy masz sprawdzony wyłącznik awaryjny i aktualną kopię danych.

Najczęstsze pytania