Dlaczego sztuczna inteligencja wpada w nieskończone pętle, a ludzkie umysły nie?

Na lotnisku w Madrycie sztuczna inteligencja sterująca rękawem lotniczym zapętliła się, nie mogąc poprawnie podłączyć go do samolotu. Mimo braku przeszkód algorytm bez końca powtarzał te same ruchy, dopóki nie interweniował człowiek. Ta sytuacja, choć anegdotyczna, ilustruje fundamentalną różnicę między AI a ludzką inteligencją.

Ludzie nie utykają w nieskończoność, powtarzając te same czynności. Dlaczego więc sztuczna inteligencja, nawet ta najbardziej zaawansowana, jest na to podatna? Odpowiedź leży głębiej niż tylko w niedoskonałości algorytmów. Ukazuje ograniczenia, które mogą na zawsze uniemożliwić maszynom osiągnięcie prawdziwej świadomości.

Granice algorytmów

Wyobraźmy sobie inteligentniejszy rękaw lotniczy, wyposażony w system monitorujący własną pracę. Kiedy wykryje błąd, natychmiast go koryguje. Ale co, jeśli i ten system zawiedzie? Możemy dodać kolejny poziom kontroli – model w modelu, monitorujący własne monitorowanie. Jednak i to rozwiązanie nie jest idealne. Zawsze istnieje ryzyko wystąpienia błędu w systemie samokontroli. Jedynym sposobem, aby temu zapobiec, byłoby stworzenie nieskończonej liczby poziomów rekursywnej samokontroli, co jest oczywiście niemożliwe.

Problem ten znany jest informatykom od dawna. W 1936 roku Alan Turing udowodnił, że nie istnieje algorytm, który mógłby zawsze skutecznie i jednoznacznie określić, czy inny algorytm, po otrzymaniu danych wejściowych, zatrzyma się, czy będzie działał w nieskończoność.

Wyobraźmy sobie robota, któremu wydajemy polecenie: „Poruszaj się, dopóki nie zobaczysz czerwonego przedmiotu”. Jeśli robot nigdy nie zobaczy czerwonego przedmiotu lub logika programu jest wadliwa, robot może wykonywać instrukcje w nieskończoność. I bez względu na to, jak zaawansowany jest kod, może nie być sposobu, aby przewidzieć, czy i kiedy robot się zatrzyma.

Problem ramy

Inny problem, znany jako „problem ramy”, polega na tym, że trudno jest nauczyć maszynę podejmowania decyzji w oparciu o istotne informacje, bez konieczności uwzględniania każdego nieistotnego szczegółu. Lista nieistotnych informacji może być nieskończona, co utrudnia maszynom odróżnienie tego, co ważne, od tego, co nieistotne. To z kolei prowadzi do kolejnego rodzaju nieskończonej pętli.

Problemy te, choć istotne, zostały nieco zapomniane w dobie rozwoju głębokich sieci neuronowych i modeli generatywnych. Jednak, jak pokazuje przykład z lotniska w Madrycie, nadal mają one realne konsekwencje. Powodem, dla którego systemy AI są podatne na nieskończone pętle, nie jest brak mocy obliczeniowej, ale fundamentalna różnica między tymi systemami a naszymi mózgami, zakorzenionymi w ciele.

Czas i entropia

Kluczowa różnica dotyczy relacji z czasem. Inteligencja to zdolność do działania, a świadomość to zdolność do bycia i odczuwania. U ludzi i innych zwierząt te dwa aspekty są ze sobą powiązane. Inteligencja, która pozwala unikać nieskończonych pętli, opiera się na zdolnościach, które wynikają ze świadomego umysłu, osadzonego w przepływie czasu.

Ludzie radzą sobie ze złożonymi sytuacjami bez potrzeby stosowania coraz bardziej skomplikowanych pętli samokontroli. Nasze umysły, choć wspaniałe, mają trudności z rekurencją. Zwykle potrafimy przetwarzać tylko trzy poziomy: wiedzieć, że wiemy, że wiemy. Nasza adaptacyjność w otwartym świecie musi opierać się na czymś innym.

Tym „czymś innym” może być zakorzenienie naszych umysłów i mózgów w czasie i entropii, w sposób, który jest niedostępny dla algorytmów.

Jesteśmy istotami biologicznymi, które muszą stale przeciwstawiać się prawom termodynamiki, a konkretnie drugiej zasadzie, która mówi, że entropia (miara chaosu) w układzie zamkniętym może tylko wzrastać. Żywe organizmy są układami otwartymi, które wykorzystują energię z otoczenia, aby utrzymać się w stanie życia, który jest statystycznie zaskakujący.

Komórki w naszym ciele stale regenerują warunki dla własnego istnienia poprzez przepływ energii metabolicznej. Obwody neuronowe minimalizują statystyczne zaskoczenie bodźców sensorycznych, zmniejszają entropię tych bodźców i w ten sposób narzucają pewnego rodzaju predykcyjną kontrolę nad fizjologicznym stanem organizmu.

Świadome doświadczenia odzwierciedlają dążenie do przetrwania. Dostarczają istotnych informacji, które kierują naszym zachowaniem, i zawierają dawkę pozytywnych lub negatywnych uczuć, które nas popychają do określonych działań.

Procesy te są głęboko powiązane z czasem. Procesy metaboliczne zachodzą w czasie biochemicznym, reakcje neuronalne – w czasie neurologicznym, a strumień świadomości – w czasie ciągłym, nieodpartym i złożonym. Nasze istnienie jest nierozerwalnie związane z czasem fizycznym, który z kolei jest zakotwiczony w drugiej zasadzie termodynamiki.

Komputery a mózgi

Dla komputera czas jest jednowymiarowy i oderwany od termodynamicznej strzałki czasu. Obliczenia sprowadzają się do przejść między stanami, gdzie jedynie sekwencja ma znaczenie, a nie dynamika podłoża. Algorytm to po prostu jeden stan po drugim. Między dwoma krokami algorytmu może upłynąć mikrosekunda lub milion lat, a to nadal będzie ten sam algorytm.

Jednak komputery istnieją w czasie. Rosnący apetyt energetyczny dzisiejszej sztucznej inteligencji wynika z konieczności korekcji błędów, zapewnienia, że jedynki pozostaną jedynkami, a zera zerami. Udawanie, że czas nie istnieje, jest kosztowne.

Dlatego algorytmy mogą utknąć w nieskończonych pętlach, podczas gdy inteligentne zwierzęta prawie nigdy tego nie robią. Dla algorytmów, zamrożonych w przestrzeni sekwencji i odłączonych od entropii, zawsze znajdzie się nieprzewidziana okoliczność, w której czas się skończy (lub zabraknie zasilania), zanim zakończą obliczenia.

W przeciwieństwie do komputerów, jesteśmy istotami zakorzenionymi w czasie. Nie możemy utknąć w nieskończonych pętlach, ponieważ zawsze istniejemy w czasie. Dążenie do minimalizacji zaskoczenia statystycznego oraz utrzymania fizjologicznej żywotności jest dla żywych istot filtrem, który pozwala nam prawie zawsze znaleźć wyjście.

Oczywiście, istnieją przykłady zachowań kompulsywnych, od obsesji po uzależnienia. Jednak te przypadki tylko potwierdzają tę argumentację, ponieważ odzwierciedlają zaburzenia w normalnym funkcjonowaniu neurokognitywnym.

Przyszłość AI

Jeśli takie założenia są słuszne, systemom AI opartym na obliczeniach Turinga zawsze będzie brakować pewnych form inteligentnego zachowania, zakorzenionego w ciele i czasie. Perspektywa osiągnięcia sztucznej inteligencji ogólnej (AGI), która dorównuje lub przewyższa ludzkie możliwości poznawcze, staje się tym samym jeszcze bardziej odległa.

Czy istnieją sposoby, aby sztuczna inteligencja odnosiła się do czasu w bogatszy, bardziej osadzony sposób? Badacze eksperymentują z obliczeniami analogowymi, obliczeniami śmiertelnymi (gdzie algorytm umiera wraz z hardwarem) i obliczeniami neuromorficznymi, które naśladują działanie ludzkiego mózgu.

Podejścia oparte na systemach dynamicznych unikają obliczeń i koncentrują się na koncepcjach takich jak atraktory i przestrzenie fazowe, które uwzględniają czas. Te podejścia wywodzą się z cybernetyki, która koncentruje się na sprzężeniu zwrotnym i kontroli, a nie na przetwarzaniu symbolicznym.

Możliwe jednak że nawet obliczenia zakorzenione w czasie nie są w stanie całkowicie uciec przed ryzykiem nieskończonych pętli lub osiągnąć pełni adaptacyjności, którą obserwujemy w systemach biologicznych. Tego rodzaju inteligencja jest powiązana nie tylko z czasem, ale także ze świadomością.

Świadome doświadczenia integrują wszystko, od metabolizmu po możliwości działania i planowania, i są nierozerwalnie związane z przepływem czasu. To integracja jest kluczem, który pozwala uniknąć prawie każdej nieskończonej pętli i rozwiązać każdy problem ramy.

Inne teorie również łączą świadomość z inteligencją, choć bez koncentrowania się na czasie i entropii. Murray Shanahan sugeruje, że świadomość łączy elementy poznania i percepcji w charakterystyczny sposób, rozwiązując w tym samym problem ramy. Eva Jablonka i Simona Ginsburg twierdzą natomiast, że świadomość wiąże się z nieograniczonym uczeniem asocjacyjnym, które umożliwia odkrywanie nowych rozwiązań.

Implikacje dla przyszłości AI

Jeśli świadome doświadczenia zależą od zakorzenienia w czasie i od metabolicznego dążenia do przetrwania w wszechświecie rządzonym przez entropię, to ma to poważne implikacje dla przyszłości sztucznej inteligencji. Natura obliczeń cyfrowych, gdzie czas między stanami jest arbitralny, wydaje się fundamentalnie niezgodna z naturą świadomości.

Jeśli świadomość jest nierozerwalnie związana z czasem fizycznym, to nie może być tylko kwestią algorytmów. To może być kolejny gwóźdź do trumny idei, że „świadomość AI” nadejdzie wkrótce.

Być może odpowiedź na pytanie, co daje nam świadomość, leży w czasie. Świadomość może być sposobem natury na to, by jej inteligentne twory mogły iść dalej i (prawie) zawsze znajdować wyjście.