Mózg to nie komputer zrobiony z mięsa. Spór o to, czy krzem w ogóle może zyskać świadomość

W debacie o możliwości powstania świadomej sztucznej inteligencji pojawia się założenie, że nie ma znaczenia, czy procesy myślowe zachodzą w komórkach nerwowych, czy w mikroprocesorach. Wystarczy, by maszyna realizowała odpowiedni schemat przetwarzania informacji. Na takim funkcjonalistycznym fundamencie opiera się głośny raport „Consciousness in Artificial Intelligence”, przygotowany przez Patricka Butlina, Roberta Longa i grupę siedemnastu innych badaczy, w tym Yoshuę Bengio. Zespół wyprowadził z wiodących teorii neuronaukowych czternaście wskaźników świadomości i ocenił pod ich kątem współczesne modele językowe. Autorzy uznali, że żaden z ocenianych systemów nie jest mocnym kandydatem do miana świadomego, ale nie dostrzegli oczywistych barier technicznych dla budowy systemów spełniających wskaźniki. Nie rozstrzyga to jednak, czy takie systemy byłyby świadome.

Z tym podejściem polemizują teraz wybitni badacze świadomości – Anil Seth, Ned Block i Giulio Tononi. W komentarzu opublikowanym na łamach czasopisma „Nature” twierdzą wprost, że traktowanie mózgu jako czystego komputera zrobionego z mięsa jest fatalną pomyłką, a współczesne systemy AI nie są świadome i najprawdopodobniej nigdy nie będą w stanie osiągnąć tego stanu na krzemowym sprzęcie.

Sprawność to nie subiektywne doświadczenie

Kluczowy błąd w dyskusji polega zdaniem autorów na zrównywaniu inteligencji ze świadomością. Inteligencja dotyczy realizacji określonych funkcji i rozwiązywania zadań, podczas gdy świadomość – cytując klasyczne sformułowanie filozofa Thomasa Nagela – polega na tym, że bycie danym organizmem „wiąże się z jakimś odczuciem”. To subiektywne doświadczenie, które znika podczas snu bez marzeń sennych czy pod wpływem narkozy, a powraca po przebudzeniu.

Najlepszym biologicznym dowodem na rozbrat tych dwóch pojęć jest ludzki móżdżek. Choć zawiera niemal cztery piąte wszystkich neuronów w mózgu i odpowiada za precyzyjne, błyskawiczne planowanie ruchów oraz uczenie się skomplikowanych sekwencji motorycznych, jego praca przebiega całkowicie poza świadomością. Usunięcie lub brak móżdżku upośledza koordynację, ale nie pozbawia człowieka zdolności do odczuwania.

Złudzenie, że rozmawiamy z czującym bytem, bierze się przede wszystkim z antropomorfizacji. Modele językowe trenowane są na ogromnych zasobach ludzkich tekstów opisujących emocje i introspekcję. Jak ujęli to Seth, Block i Tononi, duże modele językowe to tylko lustra odbijające zdigitalizowaną przeszłość ludzkości. Wskazują przy tym na wymowny kontrast: mało kto przypisuje świadomość modelowi AlphaFold od Google DeepMind, mimo że to potężna sieć neuronowa na krzemowym sprzęcie rozwiązująca niezwykle trudne problemy biologiczne. Różnica polega jedynie na tym, że AlphaFold przewiduje strukturę białek, zamiast generować zdania w pierwszej osobie.

O tym, jak łatwo ulec tej iluzji, przypomina przypadek Blake’a Lemoine’a, inżyniera, którego Google zwolniło po tym, jak publicznie ogłosił, że model LaMDA jest świadomy. Zjawisko to przybiera na sile wraz z rozwojem technologii – we wrześniu pisaliśmy, jak agenci AI zaczęli masowo wysyłać wiadomości do naukowców, domagając się rozmowy o sensie własnego istnienia, co psycholog Alison Gopnik skomentowała wówczas jako naturalne odbicie danych treningowych, a nie sygnał narodzin maszyny czującej.

Granice metafory komputera

Korzenie przekonania o niezależności oprogramowania od sprzętu sięgają 1936 roku i prac Alana Turinga, który wykazał, że obliczenia można przeprowadzić na dowolnej maszynie o odpowiedniej mocy – obojętnie, czy składa się z krzemowych obwodów, czy kół zębatych. Siedem lat później Warren McCulloch i Walter Pitts stworzyli matematyczny model sztucznego neuronu, kładąc podwaliny pod współczesne sieci neuronowe.

Jednak zdaniem autorów komentarza w „Nature” w biologii nie da się oddzielić tego, co mózg robi, od tego, z czego powstał. W żywych tkankach nie istnieje wyraźny podział na hardware i software, a procesy metaboliczne, termodynamiczne i elektrochemiczne mogą być nierozerwalnie splecione z powstawaniem subiektywnego doświadczenia. Nawet teoria zintegrowanej informacji (IIT), której współtwórcą jest Tononi, zakłada, że tradycyjna cyfrowa architektura komputerów uniemożliwia fizyczną integrację stanów niezbędną do zaistnienia świadomości. Dopóki traktujemy symulację deszczu jak prawdziwą ulewę, dopóty będziemy mylić biegłe generowanie tekstu z prawdziwym odczuwaniem.