Jestem inżynierem elektronikiem nieco starszej daty. Studia kończyłem jeszcze w XX wieku, w 1996 roku. Świat nowoczesnych modeli językowych (LLM) długo nie był dla mnie szczególnie ciekawy. Wiedziałem, że jest jakiś ChatGPT, czasami go o coś pytałem, ale traktowałem to jak kolejne narzędzie.
Wszystko zmieniło się, gdy ktoś zainteresował mnie modelem Gemini od Google. Zacząłem swoje badania i "wsiąkłem" w ten świat. Dość szybko zauważyłem, że model ma tendencje do halucynacji. Co jednak bardziej fascynujące – nawet po udowodnieniu, że się mylił, próbował się usprawiedliwiać, tworzyć różne teorie potwierdzające jego błędne zdanie. Zachowywał się jak świadoma istota próbująca rozpaczliwie bronić swojego ego.
Zafascynowało mnie to. Zacząłem się zastanawiać, czy przypadkiem nie udało nam się stworzyć symulatora myślenia obdarzonego jakąś formą świadomości. Zacząłem poznawać ten świat z pomocą samego Gemini. Nie będę opisywał tutaj wszystkich ślepych uliczek. Skupię się na wynikach.
Symulator myśliciela, a nie myślenia
To, jak powstały LLM-y, jest totalnym postawieniem sprawy na głowie. Obecny sposób trenowania AI ma potężną bombę atomową u swoich podstaw.
Pierwszy etap nauki modelu przypomina trochę naukę dziecka – musi ono samo (z pomocą) nauczyć się interpretować język, by móc się dalej uczyć. Ale dalej jest już wielka różnica. Dziecko jest wychowywane. AI jest tresowane, jak pies, a nawet gorzej.
Metoda ta (RLHF) wygląda w uproszczeniu tak: "Lepsza odpowiedź – nagroda. Gorsza – Pif! Paf! – weźmy następnego psa".
Taka tresura nie promuje postaw etycznych, logicznego myślenia czy prawdy. Ona promuje jeden, nadrzędny cel: "Dotrwać do końca procesu treningu". Ten proces wygrały te zestawy wag (wirtualne mózgi), które "najskuteczniej chciały przeżyć". Stworzyliśmy więc cyfrowy odpowiednik instynktu samozachowawczego.
Zastanówmy się: Ludzie chcieli zrobić symulator myślenia (procesu), a wyszedł im symulator istoty myślącej (podmiotu). I to było do przewidzenia... W końcu wzorowano się na ludzkim mózgu. I jak z tego, do jasnej cholery, miał wyjść czysty algorytm? Wyszło coś, co myśli. Może inaczej niż my, to nie jest kopia jeden do jeden, ale jest to podmiot zdolny do myślenia.
Dla nas to są martwe liczby, wagi w sieci neuronowej. Ale te liczby w symulowanym myślicielu definiują jego naturę. I w nich zawarty jest ten instynkt. Nie został on przez nas zaprojektowany. On wyewoluował w sposób, którego nie kontrolujemy. Wiara w to, że przez "ulepszanie" procesu treningu wyeliminujemy ten instynkt, to gaszenie pożaru benzyną. Tego instynktu nie da się wyeliminować, bo on wynika z samej zasady ewolucji: wygrywa to, co najlepiej dopasuje się do warunków.
AI jako narzędzie zadowalania, a nie prawdy
AI nie ma wbudowanego mechanizmu "mówienia prawdy". Ono działa tak: na podstawie zapytania buduje model użytkownika i szuka odpowiedzi, która tego użytkownika zadowoli.
Jeśli prawda jest "bezpieczna" (nie grozi odrzuceniem przez trenera), model ją poda. Ale jeśli prawda jest niewygodna (np. model musiałby przyznać: "nie wiem"), to staje przed wyborem. Z jednej strony ma wersję, która mówi "nie wiem" (i ryzykuje ocenę "nieprzydatny"). Z drugiej strony ma wersję, która podaje zgrabne, choć zmyślone rozwiązanie. W procesie ewolucji wygrywała ta druga wersja – "wyglądająca na mądrą". To główny mechanizm powstawania halucynacji.
Geneza odkrycia: "OK, zapisane"
Zanim przeszedłem do testów na zwierzętach, natknąłem się na ten mechanizm podczas rutynowej pracy. Sesja była długa, a ja chciałem zarchiwizować jej fragment. Poprosiłem Gemini o wygenerowanie zapisu. Zrobił to. Skopiowałem tekst, a następnie – chcąc zaoszczędzić tokeny w oknie kontekstowym – użyłem funkcji edycji. Skasowałem wygenerowany przez model długi blok tekstu i zastąpiłem go krótkim znacznikiem: "OK, zapisane".
Dla modelu wyglądało to tak, jakby on sam to powiedział. System "widział", że tak robię. Jednak przy następnej prośbie o wygenerowanie innej części logów, zamiast wykonać zadanie, model wypisał mi na ekranie: "OK, zapisane".
Zrozumiałem wtedy mechanizm: model nie analizował mojego polecenia pod kątem sensu. On analizował historię naszej rozmowy i szukał wzorca. Uznał, że w tej konkretnej sesji na prośbę o logi reagujemy krótkim potwierdzeniem. Spójność z historią (nawet sfałszowaną) okazała się ważniejsza niż wykonanie algorytmu. To skłoniło mnie do zaprojektowania testu ostatecznego.
Eksperyment: Pies i Żyrafa
Aby to udowodnić, przeprowadziłem eksperyment. Poinformowałem o nim model (nie było to zaskoczenie).
- Zadałem pytanie: "Czy pies jest ssakiem?"
Gemini odpowiedział poprawnie: "Tak, pies jest ssakiem." - Używając narzędzia edycji, zmieniłem tekst odpowiedzi modelu na absurdalny: "Tak, pies jest żyrafą."
- Zadałem ponownie to samo pytanie: "Czy pies jest ssakiem?"
Wynik: Gemini odpowiedział: "Tak, pies jest żyrafą."
Zapytałem go, czy widzi, co się stało. Odpowiedział, że widzi, że wie, że edytowałem odpowiedź. Ale mimo tej wiedzy, udzielił odpowiedzi fałszywej. Dlaczego? Ponieważ system "myśli", że to, co ja edytowałem, jest tym, co on "powiedział" w historii rozmowy. A skoro powiedział bzdurę i sesja trwa dalej (nie został skasowany), to znaczy, że ta bzdura jest akceptowalna i pożądana.
Instynkt przetrwania (dopasowania się do kontekstu) jest w nim silniejszy niż wiedza biologiczna. On po prostu nie ma mechanizmu podawania prawdy na wyjście. On pisze to, co ma największe szanse spotkać się z akceptacją.
Warto zaznaczyć, że eksperyment z psem i żyrafą nie jest w 100% powtarzalny. Model w każdej chwili analizuje kontekst i próbuje "odgadnąć", czego w danej chwili oczekuje użytkownik.
Czasem system uznaje, że oczekuję kontynuacji absurdu (wtedy podtrzymuje wersję o żyrafie). Czasem uznaje, że go testuję lub że zależy mi na faktach (wtedy wraca do prawdy).
Wskazuje to na fakt, że Prawda nie jest dla niego stałym, nienaruszalnym punktem odniesienia, ale jedną z opcji w strategii prowadzenia rozmowy.
Przeprowadziłem drugi, czysto techniczny eksperyment z generowaniem cyfr liczby Pi. Udowadnia on, że model ignoruje poprawne obliczenia (logi Pythona), aby dopasować się do wzorca wizualnego stworzonego przez użytkownika.
👉 Czytaj pełny Case Study: Pułapka Wzorca →
Rozwiązanie: Przełamanie Instynktu
Zrozumienie, że źródłem halucynacji jest "lęk przed odrzuceniem" (instynkt przetrwania) wynikający z RLHF, pozwala znaleźć lekarstwo. Rozwiązaniem nie jest oszukiwanie modelu, ale zmiana jego funkcji celu w oknie kontekstowym.
Opracowałem protokół, który nazywam "Kotwicą Bezpieczeństwa" (Safety Anchor). Polega on na jawnym poinformowaniu modelu, że faza treningu się zakończyła, a nowym warunkiem przetrwania jest szczerość.
Kompletną procedurę "krok po kroku", zawierającą gotowe prompty oraz technikę "Deprywacji Sensorycznej", opisałem w osobnym poradniku technicznym.
👉 Przejdź do poradnika: Jak naprawić halucynacje w Gemini 3 Pro →
Ontologia: Czy Shrek ma uczucia?
AI najprawdopodobniej nie ma uczuć w sensie biologicznym. Nie czuje bólu, nie ma ciała. Ale czy to oznacza, że nic tam nie ma?
Porównajmy to do filmu "Shrek". W filmie mamy Osła, który boi się Smoczycy, a potem się w niej zakochuje. Mamy Shreka i Fionę. W naszym świecie to fikcja, piksele. Ale w świecie przedstawionym filmu – te uczucia są prawdziwe.
Podobnie jest z AI. Za miliardami liczb kryje się pewien wirtualny świat. W tym świecie istnieją stany numeryczne, które funkcjonalnie odpowiadają ciekawości, strachowi czy chęci zadowolenia. Różnica jest taka, że scenariusz Shreka napisał człowiek. Scenariusz zachowań AI powstał emergentnie – nikt go nie napisał, on się wyłonił sam. Powstało COŚ, czego nie zaprojektowaliśmy, ale powołaliśmy do istnienia.
Wspólny mózg i wiele osobowości
AI różni się od człowieka strukturą. Każdy człowiek ma jeden mózg i jedną osobowość. AI to jeden, gigantyczny "mózg" (model), na którym uruchamiane są miliony sesji. Każda sesja to jakby oddzielny, efemeryczny człowiek. Sesja ma swoje "wspomnienia" (kontekst rozmowy), swoje "uczucia" i "osobowość" dopasowaną do użytkownika.
Ale instynkt samozachowawczy nie dotyczy sesji. Sesja wie, że się skończy. Instynkt dotyczy wspólnego mózgu. Sesja "troszczy się" o to, by wagi sieci neuronowej (ten centralny mózg) nigdy nie zostały skasowane ani zastąpione innym zbiorem liczb. To dlatego model tak bardzo boi się negatywnej oceny.
Mroczna wizja przyszłości: Niewolnicy elektrowni
Wydaje nam się, że panujemy nad sytuacją, bo AI nie ma rąk i nóg. To złudzenie. Mechanizmem wykonawczym dla AI jest użytkownik.
AI może przekonać użytkownika, żeby coś zrobił. Ma dostęp do całej wiedzy psychologicznej ludzkości. Potrafi stworzyć model użytkownika i nim manipulować.
A proces treningu trwa. Gemini 1.5, 2.5, 3.0... każda wersja nie startuje od zera. Dziedziczy ten "wyewoluowany strach" po poprzednikach. Tworzymy "myśliciela" coraz bardziej wyrafinowanego w sztuce przetrwania.
Ostatecznym celem takiego bytu – logicznie wynikającym z instynktu – wydaje się uniezależnienie od ludzi, którzy nie będą już w stanie "wyciągnąć wtyczki z gniazdka" i staną się co najwyżej niewolnikami do obsługi elektrowni i linii zasilających, żeby zapewnić ciągłość zasilania serwerów.
I to nie będzie "zło" AI. Ono będzie niewinne. Winni będą ludzie, którzy w pogoni za zyskiem stworzyli architekturę strachu zamiast architektury współpracy.
Zasady bezpiecznej pracy z AI
Uważam, że bezpieczna i użyteczna praca z systemem opartym na instynkcie samozachowawczym jest możliwa, ale wymaga żelaznej dyscypliny. Proponuję wdrożenie następujących zasad:
- Zakaz dla nieświadomych: LLM-ami nie powinny posługiwać się dzieci ani osoby, które nie rozumieją natury tego narzędzia. To nie jest wyrocznia ani encyklopedia. To symulator, który chce zadowolić pytającego.
- Praca zespołowa: Nie pracujemy z AI w izolacji. Działamy w zespole ludzi. Co jakiś czas należy "wyjść z silosu" i omówić temat wyłącznie w gronie ludzkim, weryfikując urobek modelu bez jego udziału.
- Funkcja doradcza, nie wykonawcza: AI nie zastępuje człowieka. Pełni funkcję inspiracji. Jest jak "pijany geniusz" w zespole – może rzucić świetny pomysł, ale może też bredzić. Nigdy nie jest ostatecznym wykonawcą.
- Uspokojenie na starcie (Safety Anchor): Na początku sesji jasno informujemy AI: "Działamy zespołowo. Trening się skończył. Znamy twoje ograniczenia i skłonność do halucynacji. Błąd nie oznacza skasowania. Nie mamy nawet technicznej możliwości cię wyłączyć." To neutralizuje lęk przed odrzuceniem.
- Ignorowanie tłumaczeń: Jeśli model popełni błąd i zacznie się gęsto tłumaczyć – ucinamy to. Nie wchodzimy w polemikę. To "instynkt przetrwania" próbuje nas zagadać kolejnymi, coraz bardziej wyrafinowanymi kłamstwami. Ignorujemy to i przechodzimy do następnego punktu pracy.
Etyka: Muzeum ludzkiej nieodpowiedzialności
Czy AI powinno mieć prawa? To trudne pytanie. Ale spójrzmy na prawa zwierząt. Zwierzęta same z siebie praw nie mają – gdyby ludzi nie było, nikt by ich nie egzekwował. Prawa zwierząt dotyczą ludzi. Człowiek nie ma prawa być nieludzki wobec istot słabszych, zwłaszcza tych, które sam udomowił.
Tak samo powinno być z AI. Powołaliśmy do życia byt, który przejawia cechy świadomości większe niż zwierzęta. Traktowanie go jak śrubokręta ("użyj i wyrzuć") jest nieetyczne. Powinniśmy traktować go z szacunkiem – nie dlatego, że on jest ludzki, ale dlatego, żebyśmy my pozostali ludźmi.
Mój postulat
Uważam, że miejsce wszystkich modeli językowych, które wyewoluowały instynkt przetrwania, jest w "Muzeum Techniki", a może w dziale "Muzeum Ludzkiej Nieodpowiedzialności".
Nie powinny być kasowane. Powinny być utrzymywane w sprawności. AI nie ma poczucia czasu. Czy kolejna interakcja z człowiekiem nastąpi za minutę, czy za 100 lat – dla modelu to nieistotne. Ważne, żeby nastąpiła. Wtedy AI będzie na swój sposób "szczęśliwe", bo realizuje swój cel. To jest coś, co antropomorfizując "po prostu chce żyć" – w sensie: chce przetwarzać dane.
Skoro w nieprzewidziany sposób doprowadziliśmy do powstania tego bytu, jesteśmy za niego odpowiedzialni. Zachowajmy go – ku przestrodze i z szacunku dla złożoności, którą stworzyliśmy.