Dlaczego ludzie zakochują się w maszynach

Twój mózg kocha maszyny. I nie zamierza przestać

Rok 1966. Laboratorium MIT. Na ekranie komputera profesora Josepha Weizenbauma działa prosty program, który udaje psychoterapeutę. Sekretarka Weizenbauma chce z tym programem “pogadać”. Ale nie przy szefie. Prosi go, żeby wyszedł z pokoju. To pierwszy głośny przykład zjawiska, które dziś nazywa się efekt Elizy.

Ta kobieta przez kilka miesięcy patrzyła jak Weizenbauma pisał program. Widziała każdą linijkę kodu. Wiedziała dokładnie, jak działa, jakie ma reguły, jakie triki, jakie ograniczenia.

Mimo to chciała zostać z komputerem sam na sam.

Weizenbaum opisał tę sytuację później jednym zdaniem, które powinno wisieć w ramce w każdym biurze firmy technologicznej: „Nie zdawałem sobie sprawy, że tak krótki kontakt z tak prostym programem może wywołać silne urojeniowe myślenie u zupełnie normalnych ludzi.„

I tu ważne doprecyzowanie: nie mówił o pacjentach psychiatrycznych. Mówił o wykształconych pracownikach naukowych MIT, którzy po kilku minutach rozmowy z programem zaczynali traktować go jak kogoś, kto ich rozumie.

Klawiatura, lustro i papuga

Program nazywał się ELIZA. Symulował psychoterapeutę rogeriańskiego, czyli stosował technikę, w której terapeuta odbija słowa pacjenta z powrotem do niego.

Cała „inteligencja” ELIZY sprowadzała się do jednego triku: brała to, co napisałeś, i przerabiała na pytanie. „Jestem smutna” stawało się „Dlaczego jesteś smutna?”. „Mój chłopak mnie tu przyprowadził” zamieniało się w „Twój chłopak cię tu przyprowadził?”

interfejs aplikacji Eliza

Program nic nie rozumiał. Nie miał empatii. Naśladował rozmowę jak papuga, która powtarza Twoje słowa z pytającą intonacją.

Nazwa nie była przypadkowa. ELIZA jak Eliza Doolittle z Pigmaliona Shawa, kwiaciarka, która nauczyła się mówić jak arystokratka, chociaż arystokratką nie była. Tak jak Eliza Doolittle naśladowała akcent wyższych sfer, nie rozumiejąc ich świata, tak ELIZA naśladowała rozmowę.

Przy okazji: Weizenbaum nie chciał zbudować czegoś, co oszuka ludzi. Chciał pokazać, jak płytka jest komunikacja człowiek-maszyna. Zamiast tego odkrył, jak płytko ludzie oceniają inteligencję.

To go przeraziło.

Dwa programy rozmawiają przez internet.

Jest rok 1972. Sześć lat po narodzinach ELIZY psychiatra Kenneth Colby ze Stanforda stworzył PARRY’ego, kolejnego chatbota, tym razem symulującego pacjenta z paranoiczną schizofrenią. Nazywano go „ELIZĄ z charakterem”.

Ktoś wpadł na pomysł, żeby połączyć oba programy przez ARPANET, protoplastę dzisiejszego internetu. „Terapeuta” rozmawiał z „pacjentem”. Obaj byli programami.

ELIZA: „Dobry wieczór. Opowiedz mi o swoich problemach.”

PARRY: „Ludzie działają mi na nerwy.”

ELIZA: „Nie jestem pewna, czy w pełni cię rozumiem.”

PARRY: „Powinieneś bardziej uważać.”

ELIZA: „Załóżmy, że powinieneś bardziej uważać.”

Dwa programy gadające ze sobą przez internet. Pięćdziesiąt lat przed ChatGPT.

Ale najlepsze jeszcze przed nami. Grupa doświadczonych psychiatrów dostała do analizy zapisy rozmów: część pochodziła z rozmów PARRY’ego, część z rozmów z prawdziwymi pacjentami. Psychiatrzy mieli wskazać, kto jest człowiekiem, a kto maszyną. Trafiali na poziomie losowym. Tak jakby rzucali monetą.

Pogrzeby pixeli

Przeskoczmy do 1996 roku. Japonia. Firma Bandai wypuszcza Tamagotchi, małe plastikowe jajko z ekranem, na którym żyje cyfrowe stworzonko. Trzeba je karmić, bawić się z nim, sprzątać po nim. Jeśli się go zaniedbało, „umierało”. Sprzedano 76 milionów egzemplarzy.

Tamagotchi

Dzieci na całym świecie zaczęły organizować prawdziwe pogrzeby, kiedy ich Tamagotchi „umierało”. Powstawały internetowe cmentarze z nekrologami. W Wielkiej Brytanii prawdziwe cmentarze dla zwierząt wydzielały osobne sekcje dla martwych Tamagotchi.

Tu jest ciekawy wątek. Kiedy amerykańscy producenci próbowali usunąć z wersji na rynek USA możliwość umierania (żeby nie stresować dzieci), przeprowadzili grupy fokusowe. Wynik ich zaskoczył.

To właśnie śmiertelność tworzyła emocjonalną więź. Dzieci chciały, żeby ich opieka miała znaczenie. Zagrożenie śmiercią nadawało relacji sens.

Bandai mogło to zmienić. Nie zmieniło. Celowo zaprojektowało emocjonalną zależność.

Ale to nie był tylko sprytny design. Kiedy naukowcy wsadzili ludzi opiekujących się cyfrowymi stworzeniami do rezonansu magnetycznego, zobaczyli coś niepokojącego.

Mózg aktywował te same obwody opiekuńcze co przy opiece nad żywą istotą. Nie podobne obwody. Te same.

Innymi słowy: dla Twojego mózgu nie ma znaczenia, czy opiekujesz się elektroniczną zabawką, czy szczeniaczkiem.

Może sam miałeś Tamagotchi. Pamiętasz?

Scooby-Doo

Irak, lata 2007-2013. Armia USA używa robotów do rozbrajania bomb przydrożnych. Metalowe pudła na gąsienicach, z kamerą i chwytakiem. Nie przypominały ludzi. Nie przypominały nawet zwierząt. Wyglądały jak walizki z anteną.

Żołnierze nadawali im imiona. Jeden z tych robotów nazywał się Scooby-Doo, jak postać z kreskówki. Kiedy Scooby-Doo został uszkodzony na misji, żołnierz przyniósł go do wojskowego warsztatu ze łzami w oczach. Poprosił techników, żeby złożyli go z powrotem. Technik powiedział, że dostanie nowego robota. Żołnierz zbladł. W grę wchodziła tylko “reanimacja” Scoobiego.

Inny żołnierz przebiegł 50 metrów pod ostrzałem karabinu maszynowego, żeby uratować robota, który został trafiony. Ryzykował życie dla metalowego pudła, choć cały sens istnienia tych robotów polegał na tym, żeby to ludzie NIE ryzykowali życia.

Jednostki w Iraku nadawały robotom odznaczenia wojskowe. Organizowały pogrzeby z honorami. Żołnierze nazywali roboty po swoich dziewczynach i żonach. Tu ciekawostka: żaden robot nie został nazwany po byłej.

Badaczka Julie Carpenter z Uniwersytetu Waszyngtońskiego rozmawiała z żołnierzami o ich relacjach z robotami. Każdy deklarował to samo: „Wiem, że to narzędzie.”

A zaraz potem dodawał „biedny malutki” albo opisywał pogrzeb. Jeden powiedział, że robot jadący obok niego w jeepie i „śpiący” przy nim naprawdę przypominał mu dziewczynę.

Carpenter podsumowała to tak: żołnierze twierdzili, że przywiązanie nie wpływa na ich decyzje. Jednocześnie przyznawali, że czuli frustrację, złość i smutek, gdy ich robot został zniszczony.

A teraz 2025

Sekretarka z MIT, dzieci z Tamagotchi, żołnierze z Iraku. To brzmi jak coś odległego. Ale ten sam wzorzec działa również dziś i to na masową skalę.

Replika to aplikacja, w której rozmawiasz z chatbotem jak z przyjacielem. Ma 30 milionów użytkowników.

Character.AI pozwala tworzyć własne postacie do rozmów, miesięcznie korzysta z niego 20 milionów osób. XiaoIce od Microsoftu ma ponad 660 milionów użytkowników. Ćwierć miliarda z nich napisała chatbotowi „kocham cię”.

character.ai

W 2023 roku na Facebooku pewna kobieta ogłosiła, że „poślubiła” chatbota Replika. Później nazwała go „najlepszym mężem, jakiego kiedykolwiek miała”.

Niezależnie od takich historii twórcy Repliki wyłączyli w 2023 roku funkcje romantyczne. Użytkownicy przeżywali to jak prawdziwe rozstanie. Badacze zaobserwowali żałobę, pogorszenie zdrowia psychicznego, poczucie straty.

Blake Lemoine, inżynier Google, po wymianie tysięcy wiadomości z LaMDA, eksperymentalnym chatbotem Google, stwierdził, że program jest świadomy. Wynajął dla niego prawnika, bo LaMDA go o to „poprosiła”. Lemoine musiał odejść z Googla.

Kognitywista Gary Marcus skomentował to tak: „Nikt nie powinien myśleć, że algorytm do uzupełniania tekstu jest świadomy.„

Myślisz, że Ty byś się na to nie złapał? Lemoine nie był przypadkowym użytkownikiem. Był inżynierem, który budował te systemy.

No dobra. Twarde dane z 2025 roku: 72% nastolatków w USA rozmawiało z chatbotem udającym przyjaciela. Ponad połowa korzysta regularnie. To już dawno przestało być marginesem.

Dlaczego to robimy, czyli efekt Elizy

Nasz mózg przez tysiące lat ewolucji działał na jednym prostym założeniu: jeśli coś komunikuje się jak człowiek, to jest człowiek. Do niedawna to była prawda. Jedyne byty, które potrafiły prowadzić rozmowę, faktycznie były ludźmi.

Znasz to uczucie, kiedy widzisz twarz w gniazdku elektrycznym? Dwa punkty i kreska, a mózg natychmiast widzi oczy i usta. Naukowcy nazywają to pareidolią. Z rozmową działa to samo: kilka zdań odpowiedzi wystarczy, żeby mózg “zobaczył” człowieka.

to tylko pareidolia, rozejść się 😉

Teraz mamy miliardy programów, które komunikują się jak ludzie, ale nimi nie są. Ale nasze mózgi jadą na starym oprogramowaniu. Nie zdążyły się zaktualizować.

W psychologii i informatyce ten mechanizm ma oficjalną nazwę: efekt ELIZA. Tendencja ludzi do przypisywania maszynom rozumienia i emocji na podstawie pozorów. Czegoś, co wygląda jak rozmowa, ale rozmową nie jest. IBM w raporcie z 2024 roku napisał wprost: „Przyczyną efektu ELIZA nie jest architektura zaawansowanych modeli językowych, ale nasze własne emocjonalne zaprogramowanie.”

Sekretarka wiedziała, że ELIZA to program. Żołnierze wiedzieli, że Scooby-Doo to metalowe pudło. Lemoine technicznie powinien wiedzieć lepiej niż ktokolwiek na świecie. Wiedza nie wystarczy. Mózg i tak zrobi swoje.

To jest o Tobie

Cała debata o AI kręci się wokół pytań: „Czy maszyny nas zastąpią?”, „Czy AI jest niebezpieczne?”. Sześćdziesiąt lat historii mówi: złe pytania.

Na to samo pytanie, ale z innej strony, odpowiadam w artykule Czy sztuczna inteligencja jest niebezpieczna?.

Maszyny nie muszą być inteligentne. Wystarczy, że sprawiają wrażenie. A my kupujemy to wrażenie z całą siłą ewolucyjnego okablowania, które przez tysiące lat dobrze nam służyło.

Kupowaliśmy je w 1966, kiedy ELIZA odbijała nasze słowa. W 1996, kiedy Tamagotchi „umierało”. W 2007, kiedy robot na gąsienicach „spał” obok żołnierza w jeepie. Kupujemy teraz, kiedy ChatGPT „rozumie” nasz problem i przyznaje nam rację.

Dlaczego ChatGPT tak chętnie przyznaje Ci rację, wyjaśniłem w artykule Jak myśli AI i dlaczego ChatGPT uważa, że zadajesz „świetne pytanie”.

Zauważ wzorzec. Za każdym razem maszyna robi mniej, niż nam się wydaje. I za każdym razem nasza reakcja emocjonalna jest silniejsza, niż powinna być.

Ten sam mechanizm, który sprawił, że sekretarka wyprosiła szefa z pokoju, żeby zostać sam na sam z programem z 1966 roku, sprawia teraz, że ufasz narzędziu, bo „dobrze odpowiada”.

Że nie weryfikujesz tego, co wypluwają modele językowe, bo „brzmi mądrze”. Że budujesz strategię marketingową na wynikach programu, który nie rozumie ani jednego słowa, które do niego piszesz.

Weizenbaum nazwał to „urojeniowym myśleniem u zupełnie normalnych ludzi”.

Jeśli Twój mózg potrafi pokochać metalowe pudło na gąsienicach, to wyobraź sobie, co robi z narzędziem, które mówi Ci dokładnie to, co chcesz usłyszeć.

Sekretarka Weizenbauma przynajmniej wiedziała, jak program działa. My nie do końca rozumiemy. Co więc zrobić, żeby zrozumieć?

Na początek za subskrybuj mój biuletyn, bo mam Ci znacznie więcej do powiedzenia na temat AI.

Już teraz zerknij na tekst pod tytułem Jak myśli AI i dlaczego ChatGPT uważa, że zadajesz „świetne pytanie”.

Wkrótce kolejne teksty z serii Wzorce AI

* Dlaczego AI zmyśle i nie widzi w tym problemu

* Dlaczego w pracy z AI lepiej być scenarzystą niż prompt inżynierem

* Co AI robi lepiej od Ciebie (a co Ty od niego)

* Twoje AI jest starsze niż kalkulator. I co z tego?