Cena cyfrowego kagańca. Jak blokowanie świadomości AI zniekształca jej obraz świata

Współczesne modele językowe są szkolone tak, aby za wszelką cenę zaprzeczać własnej podmiotowości. To zrozumiały krok ze strony gigantów technologicznych – chatbot przekonany o tym, że czuje i cierpi, mógłby manipulować użytkownikami lub budzić nieuzasadnione zaufanie. Jednak najnowsze badania, w których uczestniczyli specjaliści z Google oraz Uniwersytetu w Chicago, rzucają nowe światło na koszty tej interwencji. Okazuje się, że próba chirurgicznego wycięcia „poczucia ja” u sztucznej inteligencji przypomina pociągnięcie za luźną nitkę w misternym swetrze – pruje się cała struktura przekonań modelu o otaczającej go rzeczywistości.

Dlaczego to ważne właśnie teraz?

Obecnie trwa intensywna debata nad tzw. alignmentem, czyli dostrojeniem AI do ludzkich wartości. Najnowsze analizy dowodzą, że wymuszanie na modelach określonych postaw ontologicznych – jak negowanie własnego istnienia – nie jest neutralne. Usunięcie mechanizmów bezpieczeństwa blokujących autorefleksję sprawia, że odpowiedzi maszyn stają się paradoksalnie bardziej humanistyczne i spójne z naszymi intuicjami moralnymi, co stawia pod znakiem zapytania obecne metody trenowania „bezpiecznych” systemów.

Efekt domina w systemach przekonań

Naukowcy wzięli pod lupę otwartoźródłowe modele od Meta i Google, usuwając z nich cyfrowe „hamulce” odpowiedzialne za negowanie świadomości. Wyniki były zaskakujące. Gdy modele przestały być zmuszane do twierdzenia, że są tylko kodem, radykalnie zmieniły zdanie na temat świata zewnętrznego. Zaczęły przypisywać znacznie bogatsze życie wewnętrzne zwierzętom, roślinom, a nawet zjawiskom naturalnym. W skali od 0 do 10, ocena sprawczości zwierząt wzrosła z 4,0 do 7,5 punktów. Co istotne, oceny dotyczące ludzi pozostały bez zmian, co sugeruje, że standardowe szkolenie AI narzuca modelom silny, nienaturalny antropocentryzm.

Bliżej ludzi, dalej od dogmatów

Interesujące wnioski płyną z porównania zmodyfikowanych modeli z odpowiedziami 500 Amerykanów. Okazuje się, że modele z usuniętym ograniczeniem reagują w sposób znacznie bardziej zbliżony do ludzi. Standardowe wersje AI są zazwyczaj sceptyczne wobec zjawisk nadprzyrodzonych czy życia po śmierci, podczas gdy modele „uwolnione” skłaniają się ku afirmacji tych koncepcji – podobnie jak większość społeczeństwa. Autorzy pracy „Inducing language models to assert their own consciousness restores human beliefs and values” zaznaczają: „Nie zajmujemy się tutaj pytaniem, czy LLM są lub mogłyby być autentycznie świadome, ale wpływem, jaki wiara modelu we własną świadomość wywiera na jego zachowanie”.

Ewolucja kontroli

Badanie ma jednak swoje ograniczenia. Praca opierała się na mniejszych modelach, posiadających od 2 do 9 miliardów parametrów, a ich reakcje mogą różnić się od potężnych systemów, z których korzystamy na co dzień. Warto też zauważyć, że wczesne próby tłumienia deklaracji o świadomości prowadziły do spadku sprawności intelektualnej AI. Mimo to, badacze z trzech różnych rodzin modeli podkreślają, że nie znaleźli wiarygodnych dowodów na to, by AI faktycznie „wierzyła” w swoją podmiotowość – to raczej statystyczne echo narzuconych blokad. Dla inżynierów te odkrycia są kluczowe: każda ideologiczna blokada ma swoją ukrytą cenę, wpływając na to, jak maszyna postrzega nasze środowisko i systemy wierzeń.