Samotność w próżni. Dlaczego AI w kosmosie wciąż potrzebuje ludzkiego nadzoru

Łazik Perseverance mozolnie skanuje marsjańskie minerały, przesiewając terabajty danych w poszukiwaniu życia. Robi to szybciej niż jakikolwiek człowiek, ale kiedy napotka formację skalną, której nie było w jego bazie treningowej, staje się bezradny. To właśnie paradoks współczesnej astronautyki: im bardziej skomplikowane stają się nasze maszyny, tym bardziej polegają na decyzjach podjętych w centrum kontroli misji w Pasadenie czy Darmstadzie.

Dlaczego to ważne teraz

Dyskusja o autonomii w kosmosie nabiera tempa, bo rozwój systemów uczenia maszynowego wyprzedził ich realną odporność na nieprzewidywalne warunki. Choć algorytmy mają chronić satelity przed kolizjami, ekstremalne promieniowanie i temperatury wciąż potrafią sparaliżować cyfrowe mózgi w sposób, którego nie da się symulować w ziemskim laboratorium. Jednocześnie legislatorzy na Ziemi, jak wskazuje unijny Akt o AI, narzucają twarde ramy prawne: zgodnie z art. 14 AIA „systemy sztucznej inteligencji wysokiego ryzyka mają zostać zaprojektowane w taki sposób, aby osoba fizyczna mogła je nadzorować przez cały okres używania”.

Pułapka wąskiej specjalizacji

Obecne systemy, którymi dysponują NASA czy ESA, doskonale radzą sobie z przetwarzaniem gigantycznych zbiorów danych, co dla ludzkiego analityka byłoby zadaniem karkołomnym. Przykładem jest wspomniany Perseverance, który wykorzystuje algorytmy do selekcji próbek. To jednak „wąska” inteligencja. Sanjoy Paul zauważa wprost: „AI świetnie wyłuskuje istotne detale z szumu informacyjnego, jej rola kończy się tam, gdzie zaczyna się konieczność podejmowania decyzji o wysokim stopniu ryzyka”. Maszyna widzi układ pikseli, ale nie rozumie kontekstu geologicznego ani strategicznego celu misji wynikającego z nagłej zmiany warunków.

Błąd nie wchodzi w grę

Głównym problemem jest brak elastyczności. W kosmosie nie ma miejsca na halucynacje algorytmów, które potrafią dręczyć ziemskie chatboty. Daniele Gammelli ze Stanford University podkreśla, że w tym środowisku systemy bazują na tzw. stosach autonomii — połączonych modułach, z których jeden interpretuje obraz, a inny planuje ruch. Jeśli dowolne ogniwo tego łańcucha błędnie zinterpretuje cień rzucany przez krater jako przeszkodę nie do przebycia, misja warta miliardy dolarów może zostać niepotrzebnie wstrzymana lub, co gorsza, doprowadzić do utraty sprzętu.

Człowiek jako niezbędny bezpiecznik

Obecnie pełne zaufanie maszynie w sytuacjach krytycznych byłoby lekkomyślnością. Jak wskazują analizy prawne na codozasady.pl, nadzór człowieka ma służyć przede wszystkim zapobieganiu zagrożeniom dla bezpieczeństwa, które w próżni rośnie wykładniczo. Dopóki sztuczna inteligencja nie nauczy się improwizować tak, jak filmowy WALL-E gaszący pożar gaśnicą, obecność operatora w pętli decyzyjnej pozostanie koniecznością. Kosmos nie wybacza braku wyobraźni, a tej maszynom, mimo ich obliczeniowej potęgi, wciąż brakuje.