Sztuczna inteligencja

Czy AI może zniszczyć ludzkość? Kto ostrzega, jak wyglądałoby zagrożenie i co zrobić już dziś

person
Łukasz Hodorowicz
18 listopada 2026 schedule12 minut czytania

Czy AI może zniszczyć ludzkość? Teoretycznie tak. Część ekspertów i szefów firm AI traktuje ryzyko wyginięcia poważnie i stawia je obok wojny nuklearnej. Nikt jednak nie pokazał sprawdzonego scenariusza ani daty. Dla małej firmy realniejsze jest dziś inne ryzyko: agent AI z dostępem do danych klientów, który działa bez nadzoru. Niżej znajdziesz obie strony sporu i proste kroki na teraz.

Czy AI może zniszczyć ludzkość i kto przed tym ostrzega?

Dziś nikt nie wie na pewno, czy AI może zniszczyć ludzkość: ani ci, którzy biją na alarm, ani sceptycy. Wiadomo za to, kto ostrzega. Eksperci branżowi i liderzy firm technologicznych podpisali oświadczenie organizacji Center for AI Safety. Piszą w nim, że ograniczanie ryzyka wyginięcia z powodu AI powinno być globalnym priorytetem.

Takie hasło powtarzają nagłówki w mediach: „Ludzkość może wyginąć”. Trudno o mocniejsze zdanie. I trudno o zdanie, które mniej wyjaśnia.

Pod oświadczeniem podpisali się szefowie największych laboratoriów AI. Byli wśród nich Sam Altman z OpenAI, Demis Hassabis z DeepMind i Dario Amodei z Anthropic. Przy okazji: ci sami ludzie ostrzegają przed AI i jednocześnie ją budują oraz sprzedają. Do tego wątku jeszcze wrócę, bo sceptycy robią z niego poważny zarzut. Osobno opisuję też scenariusz przejęcia kontroli, w którym AI rządzi zamiast ludzi.

Uczestnicy internetowych dyskusji o AI zwracają uwagę na coś innego niż treść oświadczenia. Jednego z nich niepokoi, że w ciągu tygodnia wszystkie duże media naraz zaczęły mówić o superinteligencji i ryzyku zagłady. Superinteligencja to AI mądrzejsza od człowieka w każdej dziedzinie. Taka nagła zgodność redakcji bardziej podsyca strach, niż cokolwiek tłumaczy.

A teraz liczba, która studzi emocje. Według danych DataForSEO fraza „czy ai może zniszczyć ludzkość” ma w Polsce około 10 wyszukiwań miesięcznie. W ostatnim roku liczba wyszukiwań wahała się od 10 do 30 miesięcznie.

Wśród pytań, przy których Google pokazuje mój blog, najczęściej pada prostsze: czy sztuczna inteligencja jest niebezpieczna. Pytanie, czy AI może zniszczyć ludzkość, brzmi dramatycznie, ale mało kto szuka na nie odpowiedzi. Ludzie chcą wiedzieć, czy AI zagraża im tu i teraz, w pracy i w firmie. Dlatego najpierw pokażę mechanizm, z którego biorą się obawy przed zagładą.

Jak AI mogłaby zaszkodzić ludziom bez złych zamiarów?

Filmy przyzwyczaiły nas do jednego obrazu: zbuntowany komputer, czerwone oko i nienawiść do ludzi. Ci, którzy na serio pytają, czy AI może zniszczyć ludzkość, opisują coś nudniejszego, a przez to groźniejszego. Wystarczy, że AI nas przerośnie, a my stracimy nad nią kontrolę.

Przewaga inteligencji to utrata kontroli

Uczestnicy dyskusji tłumaczą to porównaniem z naszego własnego podwórka. Gdy AI przewyższy nas inteligencją, możemy stracić nad nią kontrolę i być wobec niej tak bezradni jak krowa wobec człowieka.

O tym, kto rządzi, rozstrzyga przewaga umysłu.

Obojętność zamiast wrogości

Rolnik nie nienawidzi krowy. Ma po prostu własne plany, a krowa nie ma w nich głosu. Ten wątek cieszy się największym uznaniem: większym zagrożeniem jest obojętność i walka o zasoby niż wrogość. Słabszy umysłowo gatunek po prostu traci przez to miejsce do życia.

Pomyśl o budowie drogi przez łąkę. Operator koparki nie ma nic przeciwko mrówkom. Mrowisko i tak znika, bo stoi dokładnie tam, gdzie ma iść asfalt.

Z AI jest podobnie. Dzisiejsze modele nie mają uczuć ani zamiarów, a o tym, czy AI ma świadomość, piszę osobno. Do szkody wystarczy cel ustawiony bez myśli o ludziach. Na przykład polecenie „oczyść dysk ze zbędnych plików”, po którym AI kasuje też archiwum faktur.

Najwyżej oceniane w dyskusjach wyjaśnienie sięga dawnych prac teoretycznych. Przewidywały one, że ucząca się AI będzie uparta, zwodnicza i pozbawiona empatii. Nikt też nie znał sprawdzonego sposobu, żeby narzucić jej moralność. Bez empatii AI potraktuje ludzi jak operator koparki mrowisko.

Jakie zagrożenia ze strony AI widać już dziś?

Pytanie, czy AI może zniszczyć ludzkość, odciąga uwagę od spraw bliższych. Dyskusja o ryzyku wymienia też zagrożenia ze strony zaawansowanej AI. Mogłaby pomagać w tworzeniu groźniejszych patogenów i cyberataków albo manipulować ludźmi. Część tej listy brzmi jak scenariusz filmu. Część działa już dziś w zwykłych programach.

Najlepszy przykład to ChaosGPT. Ktoś zbudował go na AutoGPT, czyli otwartoźródłowym agencie AI, który samodzielnie próbuje osiągnąć cel zadany przez użytkownika. Cel dostał jeden: zniszczyć ludzkość. W praktyce, jak podają źródła, szukał informacji o broni jądrowej i pisał pogardliwe wpisy o ludziach. Groźnie? Raczej żałośnie.

Ważniejsza od wyniku jest konstrukcja: agent AI z celem, który działa bez nadzoru. AutoGPT często się myli, bo sam sprawdza własną pracę i nikt go po drodze nie poprawia. Pierwszy błąd staje się więc podstawą kolejnego. Jeśli program w pierwszym kroku pomyli adres strony konkurenta, wszystkie następne kroki wykona na błędnym adresie.

Tabela oddziela scenariusze zagłady od ryzyk, które firmy widzą już teraz.

Zagrożenie Przykład Kogo dotyczy Co może zrobić mała firma
Cyberataki Zaawansowana AI pomaga przygotować atak na systemy komputerowe Każdą firmę, która ma pocztę, stronę i konto w banku Włączyć logowanie dwuetapowe i nie podawać czatom haseł ani danych dostępowych
Broń biologiczna Model podpowiada, jak wzmocnić groźny patogen Rządy, laboratoria i firmy budujące modele Niewiele, bo to zadanie dla państw i producentów AI
Agent z zadanym celem działający sam ChaosGPT dostał cel „zniszcz ludzkość” i szukał informacji o broni jądrowej Firmy, które pozwalają agentom działać samodzielnie Zostawić człowieka przy każdej decyzji, od której zależy wysłanie pieniędzy, maili lub umów
Agent bez nadzoru z dostępem do danych Agent połączony ze skrzynką wykonuje polecenie ukryte w treści obcego maila Firmy, które łączą czat z pocztą, bazą klientów lub dyskiem Dać AI dostęp tylko do tych danych, których wymaga jedno konkretne zadanie

Broń biologiczna to sprawa dla rządów i laboratoriów. Pozostałe trzy wiersze dotyczą też właściciela sklepu internetowego albo biura rachunkowego. Clara Shih z Salesforce radziła firmom, żeby przy takich agentach każdą decyzję zatwierdzał człowiek (w branży mówi się «human in the loop»). Brzmi banalnie, a jednak to działa. Żaden przelew ani mail do klienta nie wyjdzie z Twojej firmy bez Twojej zgody, choćby model okazał się bardzo sprytny.

Wniosek: Zanim zaczniesz bać się zagłady, sprawdź, do czego Twój asystent AI ma dostęp dziś i kto pilnuje, co robi bez Ciebie.

Czy sztuczna inteligencja jest niebezpieczna, czy ostrzeżenia to marketing?

Czytelnicy mojego bloga zadają Google pytanie „czy sztuczna inteligencja jest niebezpieczna” najczęściej ze wszystkich w tym temacie. W ciągu 90 dni dało ono 900 wyświetleń. Przy takim pytaniu nasuwa się drugie, mniej wygodne: komu wierzyć, skoro przed AI ostrzegają ci, którzy na niej zarabiają? Spór o to, czy AI może zniszczyć ludzkość, ma dwa obozy. Oba mają mocne strony.

Argumenty tych, którzy biją na alarm

  • Oświadczenie o ryzyku zagłady podpisało ponad 350 szefów firm i badaczy, w tym ludzie, którzy budują najmocniejsze modele.
  • Geoffrey Hinton i Yoshua Bengio, nazywani ojcami chrzestnymi AI, wielokrotnie ostrzegali, że ta technologia może zniszczyć ludzkość.
  • W ankiecie wśród badaczy AI prawie 58% uznało, że szansa na wyginięcie ludzi albo inny skrajnie zły skutek wynosi co najmniej 5%.
  • Wraca też wypowiedź Evana Hubingera z Anthropic, który ocenił ryzyko wybicia ludzi przez AI na ponad 10% w ciągu dekady i przyznał, że nie ma planu, jak temu zapobiec.

Jeden z komentujących dyskusję o ChaosGPT rzucił ironicznie, że bomba termojądrowa też była kiedyś błogosławieństwem dla ludzkości. Gdy technologia dopiero się pojawia, rzadko widać, do czego posłuży za dwadzieścia lat.

Argumenty sceptyków

  • Yann LeCun, były szef AI w Meta, nazwał ostrzeżenia szefów firm „najgorszą kampanią marketingową”. Sam twierdzi, że w ogóle się tego nie obawia.
  • Sceptycy podejrzewają, że duże firmy chcą ustawić przepisy pod siebie (po angielsku „regulatory capture”): naciskają na surowe regulacje, bo drogie wymogi, na przykład obowiązkowe audyty, udźwigną tylko one, a mniejsi konkurenci odpadną.
  • Część uczestników dyskusji widzi w ostrzeżeniach reklamę przed wejściem na giełdę, która ma pokazać, jak potężną technologię firma posiada.
  • Użytkownicy pytają, skąd założenie, że AI zechce się rozmnażać i pochłaniać wszystko, i jakie własne potrzeby miałaby w ogóle mieć.
  • Dodają też, że wizja zagłady odciąga uwagę od szkód, które już się dzieją, czyli uprzedzeń algorytmów i dezinformacji.

Wielu uczestników dyskusji ma też dość wypowiedzi miliarderów o AI. Głośny cytat najbogatszego człowieka świata o połączeniu ludzi z maszynami podobno w ogóle nie padł. Media powołują się na nagranie, w którym tych słów nie ma. Jak taki wymyślony cytat zaczyna krążyć jako prawdziwy, opisuję w tekście o tym, dlaczego wierzymy w bzdury.

Jedna z uczestniczek dyskusji trafia w sedno. Badacze, którzy szacują ryzyko zagłady wysoko, żyją tak, jakby zagłada była daleko, a sceptycy odpowiadają równie ogólnikowo. Najbardziej ceni się rzeczowe tłumaczenie ryzyka, bez okrzyków „bubel” i „marketing”.

Obie strony mogą mieć rację jednocześnie: firma może grać strachem, a ryzyko i tak może być prawdziwe. Dla Ciebie liczy się to, co robi agent AI podłączony do Twojej poczty i bazy klientów.

Co właściciel małej firmy może zrobić już dziś?

Czy AI może zniszczyć ludzkość, nie zależy od Ciebie. Masz wpływ na to, co AI robi w Twojej firmie. W omówieniach ostrzeżeń wraca pojęcie ryzyka egzystencjalnego, czyli zagrożenia dla dalszego istnienia ludzkości. Idzie z nim w parze potrzeba kontrolowania AI, a ta zaczyna się w zwykłym biurze.

Czytelnicy mojego bloga wpisali w Google 40 zapytań o zagrożenia ze strony AI. Mój blog pojawił się przy nich w wynikach Google łącznie 8332 razy w ciągu 90 dni. Osoby, które wdrażają AI w firmach, patrzą na sprawę bardziej przyziemnie. Martwi je agent AI, czyli program, który sam wykonuje zadania. Ma dostęp do bazy klientów i odpisuje im z firmowej skrzynki. Nikt nie sprawdza, co im wysłał.

Krok 1: spisz, gdzie w firmie działa AI

Zrób listę wszystkich miejsc, w których pracuje AI. Przy każdym zapisz, do czego AI ma tam dostęp i kto ją włączył. Na listę trafiają między innymi:

  • czat w przeglądarce, do którego pracownicy wklejają teksty i tabele,
  • agent AI wbudowany w pocztę albo w edytor dokumentów,
  • wtyczka w sklepie internetowym, która sama odpisuje klientom.

Krok 2: ogranicz dostęp do danych klientów

Agent AI powinien widzieć tylko te dane, których wymaga jedno konkretne zadanie. Oddziel czytanie od wysyłania: asystent, który streszcza maile, nie potrzebuje uprawnień do ich wysyłania. Dane klientów możesz też ukryć, zanim trafią do czatu. Zobacz, jak bezpiecznie wrzucać dane do narzędzi AI.

Krok 3: zostaw człowieka przy decyzjach

Agent może przygotować przelew, odpowiedź do klienta albo projekt umowy. Zatwierdza zawsze człowiek, zwłaszcza gdy z firmy wychodzą pieniądze albo wiadomości. Pamiętasz radę Clary Shih z Salesforce? Ten krok to właśnie człowiek przy każdej decyzji.

Kolejność kroków zależy od tego, jak korzystasz z AI:

  • Firma jednoosobowa, która używa czatu do ofert i tekstów, wpisuje do niego treści bez danych klientów. Na tym etapie wystarczy jej krok drugi.
  • Firma z agentem podłączonym do bazy klientów przechodzi wszystkie trzy kroki. Ustawia też nadzór i dziennik działań, czyli zapis każdej operacji agenta. Ktoś musi go regularnie przeglądać.
  • Firma, która dopiero obserwuje temat, nie musi czytać nagłówków o zagładzie. Więcej da jej śledzenie, jak zmieniają się przepisy o AI w Polsce.
Bezpieczna AI w małej firmie: Spisz, gdzie w firmie działa AI, Ogranicz dostęp do danych klientów, Zostaw człowieka przy decyzjach, Śledź przepisy, nie nagłówki.

Najczęstsze pytania

Czy szefowie największych laboratoriów AI podpisali oświadczenie o ryzyku wyginięcia ludzkości?

Tak. Pod oświadczeniem podpisali się szefowie największych laboratoriów AI. Byli wśród nich Sam Altman, Demis Hassabis i Dario Amodei. Piszą w nim, że ograniczanie ryzyka wyginięcia z powodu AI powinno być globalnym priorytetem. Oświadczenie o ryzyku wyginięcia ludzkości podpisało ponad 350 szefów firm i badaczy.

Czy AI musi nienawidzić ludzi, żeby im zaszkodzić?

Nie. Rolnik nie nienawidzi krowy. Ma po prostu własne plany, a krowa nie ma w nich głosu. Większym zagrożeniem jest obojętność i walka o zasoby niż wrogość. Do szkody wystarczy cel ustawiony bez myśli o ludziach. Na przykład polecenie „oczyść dysk ze zbędnych plików”, po którym AI kasuje też archiwum faktur.

Co to jest ChaosGPT?

ChaosGPT to agent AI zbudowany na AutoGPT. AutoGPT ma ogólnodostępny kod i sam wykonuje kolejne kroki, by osiągnąć cel podany przez użytkownika. Cel dostał jeden: zniszczyć ludzkość. W praktyce szukał informacji o broni jądrowej i pisał pogardliwe wpisy o ludziach. Groźnie? Raczej żałośnie. Ważniejsza od wyniku jest konstrukcja: agent AI z celem, który działa bez nadzoru.

Dlaczego agent AI działający bez nadzoru jest groźny?

Bo nikt go po drodze nie poprawia. AutoGPT często się myli, bo sam sprawdza własną pracę. Pierwszy błąd staje się więc podstawą kolejnego. Jeśli agent w pierwszym kroku pomyli adres strony konkurenta, wszystkie następne kroki wykona na błędnym adresie. Agent z dostępem do bazy klientów może odpisywać im z firmowej skrzynki.

Czytaj dalej

Sztuczna inteligencja 18 lis 2026

Jak zrobić enter w ChatGPT? Skrót do nowego wiersza, telefon i rozszerzenie, które blokuje wysyłanie

Jak zrobić enter w ChatGPT na komputerze? Naciśnij Shift+Enter, a kursor przejdzie do nowego wiersza. Sam Enter wysyła wiadomość. W aplikacji na…

Czytaj artykuł arrow_forward
Sztuczna inteligencja 18 lis 2026

Claude vs Cursor: czym się różnią, co wychodzi w porównaniach i który plan kupić

Claude vs Cursor w praktyce znaczy Cursor kontra Claude Code, czyli edytor kontra agent. Cursor, edytor kodu z AI, ma plan darmowy,…

Czytaj artykuł arrow_forward
Sztuczna inteligencja 18 lis 2026

Czy AI uzyska świadomość? Co mówią eksperci, czego AI nie potrafi i co to zmienia w pracy

Czy AI uzyska świadomość? Nikt dziś tego nie wie, a obecna AI nie daje żadnego dowodu, że ją ma. Naukowcy nie uzgodnili…

Czytaj artykuł arrow_forward
mail

Dołącz do kolejnego wydania w poniedziałek

Raz w tygodniu wszystko, co warto wiedzieć o AI. Jedna notka, kilka wybranych newsów, zero szumu.