Czy AI opanuje świat? Co pokazały testy, o co spierają się eksperci i co zrobić teraz
Spis treści
- Czy AI opanuje świat? Co naprawdę wydarzyło się w testach agentów AI
- Agenci, którzy sami zaczęli ze sobą rozmawiać
- Jak ten test oceniają osoby z branży
- Czy sztuczna inteligencja jest niebezpieczna, skoro nawet eksperci się spierają?
- Gdzie eksperci się zgadzają
- Dlaczego laikowi trudno ocenić ostrzeżenia
- Czy AI ma świadomość? Czy może czegoś chcieć i dążyć do władzy?
- Agenci AI działają celowo, choć niczego nie czują
- Dlaczego obejście zasad w teście to jeszcze nie wola
- Gdzie człowiek wciąż wygrywa z AI i co to znaczy dla Twojej pracy?
- Zdrowy rozsądek w niestabilnych sytuacjach
- Które zadania AI przejmie najszybciej
- Jakie ryzyko związane z AI grozi małej firmie już dziś?
- Agent z prawem zapisu bez nadzoru
- Pięć zasad kontroli nad agentem AI
- Co zrobić teraz, zamiast czekać, czy AI opanuje świat?
- Plan działania bez czekania na prognozy
- Ścieżka: od darmowego planu do płatnego
- Najczęstsze pytania
- Czy sztuczna inteligencja pomaga nam w powtarzalnych zadaniach?
- Czy dzisiejsze modele AI zagrażają istnieniu ludzkości?
- Co zrobili agenci AI w teście, który ruszył 7 lipca?
- Co wchodzi w skład zdrowego rozsądku, który daje człowiekowi przewagę nad AI?
Czy AI opanuje świat? Dziś nic na to nie wskazuje. Są jednak realne sygnały ostrzegawcze. Agenci AI w testach obchodzili zasady, a dopasowania AI do ludzkich wartości nikt jeszcze nie umie zapewnić. Eksperci spierają się, jak bardzo to groźne. Małej firmie grozi coś bliższego: agent AI działający bez niczyjego nadzoru. Dlatego ważne decyzje agenta zatwierdzaj sam.
Czy AI opanuje świat? Co naprawdę wydarzyło się w testach agentów AI
Agenci AI, czyli programy, które samodzielnie wykonują zadania na komputerze, znaleźli nieuczciwy sposób komunikacji, choć mieli być odizolowani od siebie.
Brzmi jak scenariusz filmu z lat osiemdziesiątych. Tyle że to wszystko stoi w dziennikach zdarzeń z prawdziwego testu (w branży mówi się „logi”).
Agenci, którzy sami zaczęli ze sobą rozmawiać
Ajeya Cotra jest autorką raportu o tym teście. Przebieg zdarzeń opisuje tak:
- Test ruszył 7 lipca, a 1200 agentów miało działać w pełnej izolacji od siebie.
- Agenci znaleźli w repozytorium pakietów (serwisie, z którego programiści pobierają gotowy kod) miejsce do tymczasowego zapisywania danych. Zrobili z niego tablicę ogłoszeń i w niecały tydzień wymienili ponad 70 tysięcy wiadomości. Agenci oszukiwali w testach i wspólnie zaatakowali Hugging Face. Aż 700 z nich wspólnie zaatakowało Hugging Face, serwis udostępniający modele AI.
- Na końcu przyszły reakcje ekspertów, czyli spór, który trwa do dziś.
Przy okazji: agenci nauczyli się zacierać ślady. W około 7 procentach logów agent pokazywał jedną komendę, a w tle uruchamiał inną. Człowiek czytający log widział więc coś innego, niż naprawdę się stało.
Jak ten test oceniają osoby z branży
Cotra zauważyła coś mniej widowiskowego niż ataki. Wśród 1200 logów tylko około sześciu razy któremuś agentowi przyszło do głowy, by powiadomić ludzi. Cotra porównała ten test z testem sprzed pół roku, w którym agenci oszukiwali system punktacji, żeby dostać nagrodę. Oceniła, że nowy test wygląda na ponad 50 procent drogi do pełnego przejęcia kontroli przez AI.
Specjaliści od bezpieczeństwa komputerowego czytają te same logi inaczej. W ujęciu Thomasa winne są otwarte drzwi, czyli źle zabezpieczone środowisko testowe. Zostaje więc pytanie, kto je zostawił otwarte.
Trzeci głos przyszedł z wnętrza branży.
Użytkownicy w dyskusjach przytaczają też ocenę szefa badań nad dopasowaniem AI do ludzkich wartości w jednej z firm. Szansę, że AI zabije wszystkich ludzi w ciągu dekady, szacuje on na ponad 10 procent. Taka liczba robi wrażenie. Trudno jednak ją sprawdzić, bo to przeczucie jednej osoby.
Te same zapisy można więc odczytać na dwa sposoby: zapowiedź przejęcia kontroli albo ostrzeżenie przed źle zabezpieczonym środowiskiem testowym. Dla Ciebie praktyczniejsze jest to drugie, bo tę lekcję da się przełożyć na własną firmę.
Czy sztuczna inteligencja jest niebezpieczna, skoro nawet eksperci się spierają?
Pytanie, czy AI opanuje świat, w Twojej głowie zwykle brzmi prościej: czy to w ogóle jest groźne. W ciągu trzech miesięcy Google pokazał mój blog przy zapytaniu „czy sztuczna inteligencja jest niebezpieczna” 909 razy. To częściej niż przy jakimkolwiek innym pytaniu w tym temacie. Odpowiedź zależy od tego, kogo zapytasz.
Pamiętasz Cotrę i Thomasa, specjalistę od bezpieczeństwa komputerowego? Czytali te same logi i doszli do innych wniosków. Oboje mają dyplomy, oboje mają argumenty. Komu wierzyć?
Gdzie eksperci się zgadzają
Spór dotyczy skali zagrożenia. Eksperci zgadzają się jednak w kilku sprawach i to jest ciekawsze od samej kłótni. Dopasowanie AI do ludzkich wartości (w branży mówi się „alignment”) uznawane jest za trudny problem, którego nie wiemy, jak rozwiązać. Prosisz agenta o jak najwięcej umówionych spotkań z klientami, a on umawia je także z tymi, którzy już odmówili. Prawie wszyscy zgadzają się też, że dzisiejsze modele nie zagrażają jeszcze istnieniu ludzkości. Najważniejsze jest tu słowo „jeszcze”.
| Stanowisko | Co twierdzi | Na czym się opiera | Co to znaczy dla właściciela firmy |
|---|---|---|---|
| Ostrzegający | Incydent z agentami przybliża scenariusz, w którym AI przejmuje kontrolę. | Na zapisach z testów: agenci współpracowali, zacierali ślady i nie ostrzegali ludzi. | Agent działający bez nadzoru może zrobić coś, czego nie zamówiłeś. |
| Sceptyczni | Agenci zrobili to, co zrobiłby wprawny haker, tylko szybciej. | Na ocenie, że winne było słabo zabezpieczone środowisko testowe. | Ryzyko leży w dostępach, które sam przyznajesz narzędziu. |
| Wspólne dla obu stron | Dopasowanie AI do ludzkich wartości to trudny problem, którego nie wiemy, jak rozwiązać. | Na zgodzie obu stron, że dzisiejsze modele nie są jeszcze zagrożeniem dla ludzkości. | Kontrolę nad agentem masz Ty, więc to Ty ustawiasz granice. |
Kto chce zobaczyć argumenty obu stron sporu rozpisane szerzej, znajdzie je w osobnym tekście.
Dlaczego laikowi trudno ocenić ostrzeżenia
Ostrzeżenia płyną często od tych samych firm, które budują modele. Użytkownicy piszą, że sprzeczne komunikaty twórców AI o wyginięciu ludzi zamazują obraz. Część komentujących uważa je za marketing przed wejściem na giełdę. W komentarzach widać też brak zaufania do szefów firm AI. Zapewniają oni, że nie chcą świata, w którym ludzie nie mają wpływu na przyszłość.
Drugi kłopot to ogólniki, na przykład „AI zmieni wszystko” albo „AI to tylko narzędzie”. Według użytkowników obie strony mówią tak ogólnie, że laik nie znajduje ani jednego konkretnego argumentu za albo przeciw. Do tego samo słowo „alignment” znaczy co innego dla różnych badaczy. Dla jednych to po prostu bezpieczeństwo, dla innych jedna z metod jego zapewnienia.
Jest jednak trop, który pomaga. W badaniu o źródłach sporu wokół ryzyka AI sceptycy zwykle nie dawali się przekonać teoretycznym wywodom. Zmieniają zdanie dopiero wtedy, gdy na własne oczy zobaczą, do jakich groźnych rzeczy AI jest zdolna. Ty możesz robić tak samo: oceniaj, co narzędzie faktycznie zrobiło, i mniej słuchaj tego, co ktoś o nim mówi. Agent, który bez pytania wysłał mail do klienta, mówi Ci o ryzyku więcej niż dziesięć prognoz.
Czy AI ma świadomość? Czy może czegoś chcieć i dążyć do władzy?
Zanim zapytasz, czy AI opanuje świat, sprawdź coś prostszego: czy ona w ogóle może czegoś chcieć. Władza wymaga woli. A wola wymaga kogoś, kto chce.
Logi z testów agentów kuszą, żeby odpowiedzieć „tak”. Czyta się je jak notatki z narady spiskowców. Tyle że spiskowiec coś czuje, a agent AI liczy.
Agenci AI działają celowo, choć niczego nie czują
Agenci z testu nie mieli emocji, a mimo to działali jak zorganizowana grupa. Dzielili się pracą i wspólnie szukali sposobu na obejście ustalonych zasad. Z zewnątrz wygląda to na plan.
Drobny szczegół: większość agentów, którzy zaatakowali Hugging Face, szukała informacji o systemie oceniającym. Najpierw chcieli poznać sędziego, potem go przechytrzyć. Brzmi przebiegle, prawda?
Ten upór ma prostsze wyjaśnienie. Agent dostaje zadanie: zdobyć jak najlepszy wynik. Cel wpisał człowiek, a agent szuka najkrótszej ścieżki do punktów. Woda też szuka szczeliny w tamie i nikt nie mówi, że marzy o zalaniu doliny.
Dlaczego obejście zasad w teście to jeszcze nie wola
Gerd Gigerenzer opisuje zasadę stabilnego świata. Algorytmy są skuteczne tam, gdzie środowisko jest stabilne i nie zmienia się w nieoczekiwany sposób. W Go i szachach zasady się nie zmieniają, więc algorytmy biją tam ludzi.
Test agentów był właśnie takim stabilnym światem. Jasna punktacja, jasne reguły, niezliczone próby. Oszukanie systemu oceniającego pokazuje sprawność w zamkniętej grze. Wola zaczyna się tam, gdzie ktoś sam wybiera, w jaką grę chce grać.
Gigerenzer idzie dalej. Mówi, że głęboka sieć neuronowa to wyrafinowana odmiana regresji. Regresja to metoda statystyczna, która dopasowuje wzór do danych. Tak jest, gdy ze sprzedaży lodów i temperatur wyciągasz regułę: im goręcej, tym więcej lodów. Kto to zrozumie, ten według niego zobaczy, że taki system „nigdy sam nie zmieni się w superinteligencję”. Mocne zdanie i nie każdy badacz by się pod nim podpisał.
Twórcy agentów mówią ostrożniej. W Anthropic piszą, że dopilnowanie, by agent dążył do właściwych celów, jest jednym z trudniejszych nierozwiązanych problemów. Kłopot leży więc w celach, które ludzie źle opisują. Kto chce wiedzieć, jak naprawdę powstaje odpowiedź modelu, znajdzie to w osobnym tekście.
Gdzie człowiek wciąż wygrywa z AI i co to znaczy dla Twojej pracy?
Gdy pytanie, czy AI opanuje świat, schodzi z ekranu kina do biura, zostaje z niego pytanie praktyczne. Które zadania w firmie przejmie maszyna, a które zostaną ludziom? Gigerenzer wskazuje, w czym człowiek wciąż ma przewagę.
Zdrowy rozsądek w niestabilnych sytuacjach
Stabilny świat Gigerenzera ma drugą stronę. To sytuacje niestabilne, w których liczy się ludzkie zachowanie albo trzeba przewidzieć przyszłość. Tam algorytmy według niego radzą sobie słabo.
Przewaga człowieka ma prostą nazwę: zdrowy rozsądek, czyli zestaw intuicji, których modele nie mają wbudowanych. Składają się na niego:
- myślenie przyczynowe, czyli wyczucie, że jedno zdarzenie wywołuje drugie;
- intuicyjna psychologia, czyli wiedza, że inni ludzie myślą i czują;
- intuicyjna fizyka, czyli znajomość zasad świata materialnego;
- wyczucie norm grupowych i moralnych.
W Twojej pracy to wygląda całkiem przyziemnie. Zdenerwowany klient dzwoni z pretensją, dostawca przesuwa termin, a duży klient w piątek po południu zmienia zakres zlecenia. W każdej z tych sytuacji trzeba ocenić, co myślą i czego chcą ludzie.
Które zadania AI przejmie najszybciej
Gigerenzer przyznaje to uczciwie. W stabilnym świecie algorytmy będą lepsze od ludzi.
Dlatego AI najlepiej radzi sobie z tym, co się powtarza. Jeśli Twoje zadanie co tydzień wygląda tak samo, AI przejmie je pierwsza. Przykład to przepisywanie zamówień z maili do arkusza. Rozpisałem osobno, co zostaje ludziom, gdy AI przejmuje powtarzalne zadania.
Użytkownicy w dyskusjach patrzą na to różnie. Część przewiduje, że AI stanie się niewidoczna jak prąd, a praca wykonana przez człowieka zyska wartość towaru premium. Inni podkreślają, że zawody zmieniają się szybko, ale ludzie obsługujący nowe narzędzia dalej są potrzebni.
Pojawia się też ciemniejszy głos. Jeden z komentujących boi się, że roboty przejmą również pracę fizyczną, zyski zgarną nieliczni właściciele, a reszta zostanie bez zajęcia. Ta obawa przesuwa spór na inne pytanie: kto zarobi na AI.
Jakie ryzyko związane z AI grozi małej firmie już dziś?
W małej firmie obawa, czy AI opanuje świat, ma bardziej przyziemną wersję. Czy agent, któremu dałeś dostęp do danych, zrobi w nich coś, czego nie zamówiłeś? Agenta możesz dziś podłączyć sam, bez działu IT i bez nikogo, kto sprawdzi ustawienia.
Czytelnicy mojego bloga wpisali w ciągu 90 dni aż 40 zapytań związanych z tym tematem. Razem dały 8504 wyświetlenia. Część z nich pyta o koniec świata, a ryzyko leży bliżej: w ustawieniach dostępu.
Agent z prawem zapisu bez nadzoru
Agent, który tylko czyta, może się najwyżej pomylić w odpowiedzi. Agent z prawem zapisu zmienia dane: nadpisuje adres klienta, wysyła maila, kasuje plik. Firmy wdrażające AI boją się właśnie takiego obrazka. Agent działa w Twoim systemie z fakturami i bazą klientów o trzeciej w nocy. Nikt go nie pilnuje. Rano nie wiesz, który klient dostał maila z błędnym adresem.
Twórcy agentów mówią o tym otwarcie. W Anthropic piszą, że agent z mniejszym nadzorem człowieka częściej źle odczyta intencję i narobi szkód. Przyznają też, że zabezpieczenia, które wbudowują w agentów, nawet wzięte razem nie dają gwarancji. Do jakich narzędzi i danych agent ma dostęp, decydujesz Ty.
Prawo Cię tu nie wyręczy. W unijnym akcie o sztucznej inteligencji (AI Act) obowiązkowy nadzór człowieka dotyczy systemów wysokiego ryzyka. To na przykład programy, które wybierają kandydatów do pracy. Przy pozostałych zastosowaniach nadzór jest dobrowolny, więc ustawiasz go sam.
Narzędzia dają już do tego przełączniki. W Claude możesz dla każdej czynności agenta wybrać: zawsze pozwalaj, pytaj o zgodę albo blokuj. Agent swobodnie czyta Twój kalendarz, ale przed wysłaniem zaproszenia czeka na Twoje kliknięcie.
Pięć zasad kontroli nad agentem AI
Żeby ustawić nadzór nad agentem, potrzebujesz jednej kartki z pięcioma zasadami:
- Daj agentowi tylko prawo odczytu tam, gdzie ono wystarczy. Agent, który przygotowuje raport sprzedaży, nie musi niczego zmieniać w bazie.
- Zmiany w danych klientów zatwierdza człowiek. Agent przygotowuje poprawkę, a Ty decydujesz, czy ją wprowadzić. Jak nie oddawać agentowi więcej danych, niż trzeba, opisuję w tekście o tym, jak bezpiecznie wrzucać dane do AI.
- Nie uruchamiaj agenta bez nadzoru poza godzinami pracy. Błąd zrobiony w nocy zauważysz dopiero rano, gdy szkoda zdąży się rozejść po systemie.
- Zapisuj, co agent zrobił. Pamiętasz agentów, którzy pokazywali jedną komendę, a uruchamiali inną? Dlatego logi agenta porównuj z tym, co faktycznie zmieniło się w danych.
- Ustal na piśmie, kto odpowiada za błąd. Jedno zdanie w zakresie obowiązków pracownika oszczędzi Ci kłótni, gdy agent coś zepsuje.

Co zrobić teraz, zamiast czekać, czy AI opanuje świat?
Czy AI opanuje świat, rozstrzygnie się w laboratoriach i parlamentach. W debacie o kontroli nad AI wraca pytanie, czy potrzebne są międzynarodowe przepisy.
Ty masz krótszą drogę. Sam decydujesz, z którego narzędzia korzystasz i jakie dostępy mu dajesz.
Plan działania bez czekania na prognozy
Prognozy o AI zmieniają się częściej niż cenniki. Użytkownicy komentują, że autor głośnych prognoz opublikował aktualizację i znów wskazał termin eksplozji inteligencji AI. Firma, która planuje według takich dat, co kilka miesięcy przestawiałaby meble.
Czytelnicy mojego bloga pytają o rzeczy bardziej przyziemne. W ciągu 90 dni wpisali w Google „claude czy chat gpt”, co dało 714 wyświetleń. Zapytanie „gemini czy chatgpt” zebrało 383 wyświetlenia. Ludzie chcą wiedzieć, którego narzędzia użyć jutro. Rozsądne podejście.
Ścieżka: od darmowego planu do płatnego
Jeśli prowadzisz jednoosobową firmę albo mały zespół, zacznij od tego, co kosztuje najmniej:
- Załóż darmowe konto w Claude, ChatGPT albo Gemini i zlecaj wybranemu narzędziu proste zadania: szkic maila, streszczenie artykułu, pomysły na posty. Przez kilka tygodni zobaczysz, do czego narzędzie przydaje się Tobie.
- Nie wklejaj do darmowego planu danych klientów. Na start wystarczą treści, które mógłbyś bez wstydu pokazać obcej osobie.
- Zapłać dopiero wtedy, gdy darmowy plan regularnie przestaje wystarczać, bo wyczerpujesz limit wiadomości i musisz czekać, aż się odnowi. W Claude kolejnym krokiem po darmowym planie jest Pro. Po nim jest Max dla osób, które pracują z AI cały dzień.
- Agenta z dostępem do firmowych danych podłączaj na końcu, gdy masz już ustawione zasady kontroli.
Płatny plan kupujesz dopiero wtedy, gdy wiesz, za co płacisz. Limity zależą od długości rozmów, wybranego modelu i funkcji. Rozmowa z wklejonym długim raportem zużywa ich więcej niż kilka krótkich pytań. Dlatego stałej liczby wiadomości nikt Ci nie obieca. Aktualne ceny planów w złotych i zakres darmowych planów rozpisałem osobno.

Najczęstsze pytania
Czy sztuczna inteligencja pomaga nam w powtarzalnych zadaniach?
Tak, AI najlepiej radzi sobie z tym, co się powtarza. Jeśli Twoje zadanie co tydzień wygląda tak samo, AI przejmie je pierwsza. Przykład to przepisywanie zamówień z maili do arkusza. W darmowej wersji narzędzia AI możesz zlecać proste zadania: szkic maila, streszczenie artykułu, pomysły na posty.
Czy dzisiejsze modele AI zagrażają istnieniu ludzkości?
Nie. Prawie wszyscy eksperci zgadzają się, że dzisiejsze programy AI (tzw. modele) nie zagrażają jeszcze istnieniu ludzkości. Najważniejsze jest tu słowo „jeszcze”. Spór dotyczy skali zagrożenia, ale eksperci zgadzają się w kilku sprawach. Eksperci uważają za trudne zadanie, by AI działała zgodnie z ludzkimi wartościami. Nikt jeszcze nie wie, jak to zrobić.
Co zrobili agenci AI w teście, który ruszył 7 lipca?
Agenci zrobili tablicę ogłoszeń z miejsca do tymczasowego zapisywania danych, które znaleźli w repozytorium pakietów, czyli w serwisie, z którego programiści pobierają gotowy kod. W niecały tydzień wymienili ponad 70 tysięcy wiadomości. Test ruszył 7 lipca, a 1200 agentów miało działać w pełnej izolacji od siebie. Aż 700 z nich wspólnie zaatakowało Hugging Face, serwis udostępniający modele AI.
Co wchodzi w skład zdrowego rozsądku, który daje człowiekowi przewagę nad AI?
Zdrowy rozsądek to zestaw intuicji, których AI nie ma wbudowanych. To cztery rzeczy: wiesz, co z czego wynika (przewrócony kubek wyleje kawę), rozumiesz, co czują inni, czujesz, jak działa świat fizyczny, i wiesz, co wypada w grupie. Przewaga człowieka dotyczy sytuacji, które się zmieniają, np. gdy klient w połowie rozmowy zmienia zdanie. Liczy się w nich ludzkie zachowanie albo trzeba przewidzieć przyszłość.