Czy AI zniszczy ludzkość? Co mówią eksperci, które ryzyka są realne i co zrobić już teraz
Spis treści
- Czy AI zniszczy ludzkość? Kto ostrzega i jak poważnie to brzmi
- Ostrzeżenia firm i znanych przedsiębiorców
- Bunt maszyn: skąd się wziął ten scenariusz
- Wyważony głos: ryzyko jest realne, ale wynik zależy od nas
- Czy AI jest groźne? Które scenariusze są realne, a które to science fiction
- Scenariusze w jednej tabeli
- Wymarcie a załamanie społeczeństwa
- Dlaczego firmy dalej budują coraz mocniejszą AI mimo ostrzeżeń
- Czy sztuczna inteligencja jest niebezpieczna dla Twojej firmy już dziś?
- Czego o ryzyku AI szukają w Google przedsiębiorcy
- Agent AI w bazie klientów: co może zepsuć w nocy
- Kod i systemy, których nikt nie sprawdził
- Jak przygotować firmę na ryzyka AI? Kroki po kolei
- Krok 1: wypisz, co AI robi w Twojej firmie
- Krok 2: ogranicz uprawnienia i dane
- Krok 3: człowiek sprawdza wynik
- Od czego zacząć: jedno narzędzie za darmo, płatny plan dopiero później
- Najczęstsze pytania
- Jakie zawody znikną najszybciej przez AI?
- Czy zagłada ludzkości przez AI jest przesądzona?
- Czy mała firma może zatrzymać wyścig w budowaniu coraz mocniejszej AI?
- Co to jest agent AI?
Na pytanie, czy AI zniszczy ludzkość, nikt dziś nie zna pewnej odpowiedzi. Część ekspertów i firm uważa zagładę za realne ryzyko, którego wciąż da się uniknąć. Groźniejsze są bliższe skutki: zbędne zawody, nadużycia i systemy, nad którymi tracimy kontrolę. Mała firma nie zatrzyma wyścigu największych koncernów w budowaniu coraz mocniejszej AI. Może jednak ustalić, co AI wolno, jakie dane dostaje i kto sprawdza wynik.
Czy AI zniszczy ludzkość? Kto ostrzega i jak poważnie to brzmi
Pytanie, czy AI zniszczy ludzkość, zadają dziś szefowie korporacji i ludzie, którzy sami budują modele AI. To programy, z którymi rozmawiasz w czacie. Autorzy filmów science fiction stracili monopol na ten temat.
Ostrzeżenia firm i znanych przedsiębiorców
Najgłośniejsze ostrzeżenia płyną z miejsc, w których trudno kogoś podejrzewać o lęk przed technologią.
Łatwo to zbyć jako marketing: firma straszy, więc jej produkt wydaje się potężny. Użytkownicy w dyskusjach odpowiadają, że obawy zgłaszają też ludzie spoza firm, więc nie warto tego zbywać.
Bunt maszyn: skąd się wziął ten scenariusz
Znasz ten scenariusz z kina. „Terminator”, „2001: Odyseja kosmiczna”, zbuntowany komputer, który uznaje ludzi za przeszkodę. Przez lata to była rozrywka na sobotni wieczór.
Dziś ten scenariusz wraca, bo modele potrafią robić rzeczy, których ich twórcy nie przewidzieli. Nie mają świadomości, a mimo to kombinują: prosisz agenta o skrócenie oferty, a on dopisuje cenę, której nie podałeś. Brak świadomości nie oznacza braku inteligencji. Jeśli chcesz wiedzieć, czy AI może cokolwiek przeżywać, sprawdź, czy AI ma świadomość.
Wyważony głos: ryzyko jest realne, ale wynik zależy od nas
Użytkownicy przytaczają szefa badań nad bezpieczeństwem w jednym z laboratoriów AI. Jego zdaniem AI z prawdopodobieństwem większym niż jedna dziesiąta wybije w ciągu dekady wszystkich ludzi. Brzmi jak wyrok, prawda?
W dyskusjach doceniany jest jednak głos pewnego informatyka. Uważa, że ludzkość jest zagrożona, ale zagłada nie jest przesądzona. Wiele zależy od naszych decyzji. Część z tych decyzji podejmujesz sam, kiedy wpuszczasz AI do swojej pracy. Na przykład gdy zgadzasz się, żeby agent sam zmieniał dane w Twojej bazie klientów.

Czy AI jest groźne? Które scenariusze są realne, a które to science fiction
Kiedy ktoś pyta, czy AI zniszczy ludzkość, zwykle wrzuca do jednego worka cztery bardzo różne zagrożenia. Jedne widać już w ogłoszeniach o pracę. Inne istnieją na razie w eksperymentach myślowych.
Scenariusze w jednej tabeli
| Scenariusz | Na czym polega | Jak daleko od dziś | Co oznacza dla małej firmy |
|---|---|---|---|
| Zbędne zawody | Generatywna AI szybko zmienia rynek pracy, a wśród najszybciej zanikających ról są kasjerzy, asystenci administracyjni i graficy. | Dzieje się teraz, krok po kroku. | Sprawdź, które zadania przejmie AI w Twojej branży, i przesuń ludzi do pracy z klientem. |
| Broń biologiczna | Ktoś używa narzędzi AI, żeby zaprojektować groźny wirus albo toksynę. | Bezpośrednio Cię nie dotyczy, to sprawa rządów i laboratoriów. | |
| Eksplozja inteligencji | Systemy AI projektują coraz lepsze systemy, aż człowiek zostaje daleko w tyle. | Hipoteza oparta na niesprawdzonych założeniach. | W firmie nic z tym nie zrobisz, to temat dla badaczy i ustawodawców. |
| Inne zagrożenia, np. klimat | Zmiana klimatu zagraża nam z AI czy bez niej. | Trwa. | AI to jedno ryzyko z wielu w Twoim planie, a nie jedyne. |
Wymarcie a załamanie społeczeństwa
Użytkownicy przytaczają listę zagrożeń dla ludzkości. Na pierwszym miejscu stoi wymarcie z powodu celowego nadużycia AI albo wojny jądrowej. Brzmi groźnie. Część z nich odpowiada jednak, że ludzie są odporni i tak łatwo nie wyginą. Za możliwe uważa natomiast załamanie społeczeństwa.
To rozróżnienie zmienia pytanie. Załamanie społeczeństwa nie wymaga superinteligencji. Wystarczy, że zawiodą systemy, na których opiera się Twoja codzienność. Przez tydzień nie działają terminale płatnicze, nie ma internetu, a pracownicy nie mogą się zalogować. O tych systemach decydują dziś ludzie.
Dlaczego firmy dalej budują coraz mocniejszą AI mimo ostrzeżeń
Skoro twórcy AI sami ostrzegają, czemu nie zwolnią? Komentujący odpowiadają prosto: spowolnienie w jednym kraju nic nie da, bo konkurent i tak będzie pracował dalej. To przypomina klasyczny dylemat więźnia: wszystkim byłoby lepiej, gdyby zwolnili razem, ale ten, kto zwolni sam, przegra z konkurentem.
Unia Europejska próbuje zaradzić temu przepisami. AI Act to unijne rozporządzenie o sztucznej inteligencji. Ma zakazać zastosowań uznanych za niedopuszczalnie ryzykowne, na przykład oceniania obywateli punktami za zachowanie. Dla Ciebie wynika z tego jedno: narzędzia będą coraz mocniejsze, a zasady korzystania z nich we własnej firmie ustalasz sam.
Czy sztuczna inteligencja jest niebezpieczna dla Twojej firmy już dziś?
Pytanie, czy AI zniszczy ludzkość, brzmi poważnie, a w Polsce mało kto je wpisuje. Ludzie prowadzący firmy szukają czegoś bliższego codzienności.
Czego o ryzyku AI szukają w Google przedsiębiorcy
Tak wygląda to w liczbach z Google i z mojego bloga:
- Fraza „czy AI zniszczy ludzkość” ma w Polsce 30 wyszukiwań miesięcznie. W ciągu roku wahała się od 10 do 50.
- Przy frazie „czy sztuczna inteligencja jest niebezpieczna” Google pokazał ten blog w wynikach 899 razy w 90 dni.
- W tym samym czasie Google pokazał ten blog przy 40 frazach o ryzyku AI, łącznie 8515 razy.
Zagłada to temat na wieczorną dyskusję. Przedsiębiorców bardziej martwi ryzyko, które może ich dotknąć w poniedziałek rano.
Agent AI w bazie klientów: co może zepsuć w nocy
Agent AI to program, który sam wykonuje zadania w Twoich systemach: odpisuje klientom, aktualizuje zamówienia, porządkuje kartoteki. Firmy, które go wdrażają, mówią wprost, czego się boją. Agent, który może zmieniać i kasować dane w bazie klientów, może w nocy zrobić coś głupiego. Wymarcie ludzkości schodzi przy tym na dalszy plan.
Wyobraź sobie trzecią w nocy. Agent „porządkuje” zdublowane kartoteki i scala dwóch różnych klientów w jedną. Rano handlowiec wysyła ofertę pod zły adres.
Pełną listę takich zagrożeń zbiera wpis o realnych ryzykach AI.
Kod i systemy, których nikt nie sprawdził
Drugie codzienne ryzyko kryje się w oprogramowaniu. Komentujący skarżą się, że AI pisze więcej kodu, niż ktokolwiek zdoła przejrzeć, więc błędy wychodzą dopiero na działających systemach.
W małej firmie wygląda to zwyczajnie. Ktoś prosi czat o skrypt do sklepu internetowego, wkleja go i idzie na kawę. W weekend okazuje się, że skrypt źle liczy rabaty i sklep sprzedaje towar za połowę ceny. Tempo pisania rośnie, a tempo sprawdzania zostaje ludzkie. Ta różnica niesie najbliższe ryzyko, jakie AI stwarza w Twojej firmie.
Jak przygotować firmę na ryzyka AI? Kroki po kolei
Nie masz wpływu na to, czy AI zniszczy ludzkość. Masz za to wpływ na zasady, na jakich AI pracuje w Twojej firmie.
Pewien znany przedsiębiorca radzi przygotować się na dwie dekady wstrząsów i nazywa AI najgroźniejszą bronią w historii. Komentujący odpowiadają, że to pusta rada, bo nikt nie mówi, jak konkretnie się przygotować. Mają rację. Oto trzy kroki:
- Wypisz, do czego w Twojej firmie używa się AI i kto jej używa.
- Ogranicz uprawnienia narzędzi i dane, które do nich trafiają.
- Ustal, że człowiek sprawdza każdy wynik, zanim trafi do klienta.
Krok 1: wypisz, co AI robi w Twojej firmie
Zrób prostą listę: kto, jakim narzędziem i do jakiego zadania. Zwykle wychodzi więcej, niż myślisz, bo pracownicy sami zakładają konta. Pierwszy wiersz może brzmieć tak: Kasia, darmowy czat, szkice odpowiedzi do klientów. Wracaj do tej listy regularnie, bo możliwości modeli rosną z każdym miesiącem, a razem z nimi ryzyka.
Krok 2: ogranicz uprawnienia i dane
Agent AI nie potrzebuje prawa zapisu w Twojej bazie klientów. Daj mu dostęp tylko do tego, co musi przeczytać. Zanim wkleisz dane klientów, sprawdź, jak bezpiecznie wrzucać dane. W ustawieniach prywatności czatu Claude możesz też wyłączyć jedną zgodę. Chodzi o zgodę na to, żeby firma Anthropic, jego twórca, uczyła nowe modele na Twoich rozmowach.
Krok 3: człowiek sprawdza wynik
Skrypt, oferta, odpowiedź do klienta: każdy wynik czyta ktoś, kto zna temat. Martw się najpierw tym, co najbardziej prawdopodobne. A najbardziej prawdopodobny jest zwykły błąd, którego nikt nie zauważył, na przykład faktura z błędną stawką VAT.
Od czego zacząć: jedno narzędzie za darmo, płatny plan dopiero później
Ścieżka dla jednoosobowej firmy albo małego zespołu:
Zacznij od darmowego planu jednego czatu, na przykład Claude. – Nie podłączaj czatu do baz danych i nie dawaj mu prawa zapisu w żadnym systemie. – W darmowym planie Claude liczba wiadomości jest ograniczona: limit odnawia się co pięć godzin, a to, ile zdążysz wysłać, zależy od popytu. Inne limity opisuje wpis o tym, które AI jest darmowe. – Płatny plan kup dopiero wtedy, gdy limity naprawdę blokują Ci pracę.

Najczęstsze pytania
Jakie zawody znikną najszybciej przez AI?
Według wpisu AI, która tworzy teksty i obrazy (tak zwana generatywna AI), szybko zmienia rynek pracy. Wśród zawodów, które znikają najszybciej, są kasjerzy, asystenci administracyjni i graficy. Dzieje się to teraz, krok po kroku. Wpis radzi sprawdzić, które zadania przejmie AI w Twojej branży, i przesunąć ludzi do pracy z klientem.
Czy zagłada ludzkości przez AI jest przesądzona?
Nie. Pewien informatyk uważa, że ludzkość jest zagrożona, ale zagłada nie jest przesądzona. Wiele zależy od naszych decyzji. Część z tych decyzji podejmujesz sam, kiedy wpuszczasz AI do swojej pracy. Na przykład gdy zgadzasz się, żeby agent AI (program, który sam działa w Twoich narzędziach) zmieniał dane w Twojej bazie klientów.
Czy mała firma może zatrzymać wyścig w budowaniu coraz mocniejszej AI?
Nie. Mała firma nie zatrzyma wyścigu największych koncernów w budowaniu coraz mocniejszej AI. Może jednak ustalić, co AI wolno, jakie dane dostaje i kto sprawdza wynik. Dla Ciebie wynika z tego jedno: narzędzia będą coraz mocniejsze, a zasady korzystania z nich we własnej firmie ustalasz sam.
Co to jest agent AI?
Agent AI to program, który sam wykonuje zadania w Twoich systemach. Odpisuje klientom, aktualizuje zamówienia i porządkuje kartoteki. Ryzyko pojawia się, gdy może zmieniać i kasować dane w bazie klientów. Wtedy w nocy może zrobić coś głupiego, na przykład scalić dwóch różnych klientów w jedną kartotekę.