Imperium AI: Karen Hao o pogoni za AGI i kosztach wiary w nieograniczony postęp

W świecie technologii, pogoń za przełomowymi innowacjami często przysłania realne koszty i konsekwencje. Karen Hao, autorka książki „Empire of AI”, porównuje branżę sztucznej inteligencji, a w szczególności OpenAI, do imperium, które w imię rozwoju AGI (Artificial General Intelligence) – sztucznej inteligencji ogólnej – gotowe jest poświęcić naprawdę wiele. Jej zdaniem, wiara w AGI stała się współczesną ideologią, napędzającą ekspansję, której koszty bywają sprzeczne z deklarowanymi celami.

AGI jako nowa religia?

Hao, w rozmowie z TechCrunch, zauważa, że osoby zaangażowane w rozwój AGI często wykazują niemal religijną gorliwość. Ta wiara w nadrzędny cel – stworzenie systemu, który przewyższy ludzkie możliwości w większości ekonomicznie wartościowych zadań – zdaje się usprawiedliwiać wszelkie działania, nawet te budzące wątpliwości etyczne. OpenAI, lider w tej dziedzinie, przedstawia AGI jako narzędzie, które „podniesie ludzkość”, zwiększy bogactwo i przyspieszy odkrycia naukowe. Czy jednak te obietnice nie są zbyt mgliste, by usprawiedliwić ogromne zużycie zasobów, energii oraz tolerowanie wypuszczania na rynek niedopracowanych i potencjalnie szkodliwych systemów?

Wyścig zbrojeń w świecie AI

Zdaniem Hao, obecna strategia rozwoju AI, oparta na skalowaniu i zużyciu ogromnych ilości danych i mocy obliczeniowej, nie jest jedyną drogą. Alternatywą jest udoskonalanie istniejących algorytmów, zwiększanie ich efektywności i zmniejszanie zapotrzebowania na zasoby. Jednak takie podejście wiązałoby się z poświęceniem tempa rozwoju, co w konkurencyjnym środowisku jest trudne do zaakceptowania. OpenAI, stawiając na szybkość, zapoczątkowało wyścig, w którym inne firmy, by nie pozostać w tyle, przyjęły podobną strategię.

Nauka podporządkowana biznesowi

Koncentracja najlepszych umysłów w sektorze prywatnym, kosztem badań akademickich, doprowadziła do sytuacji, w której kierunek rozwoju AI jest kształtowany przez komercyjne agendy, a nie przez naukowe dążenia. Olbrzymie inwestycje w infrastrukturę AI – OpenAI planuje wydać 115 miliardów dolarów do 2029 roku, Meta 72 miliardy, a Google do 85 miliardów w 2025 – świadczą o skali zaangażowania w ten wyścig.

Rosnące koszty i przesuwające się cele

Tymczasem obiecane korzyści dla ludzkości wciąż nie nadchodzą, a szkody stają się coraz bardziej widoczne: utrata miejsc pracy, koncentracja bogactwa, chatboty AI wywołujące urojenia i psychozy. Hao zwraca uwagę na wyzysk pracowników w krajach rozwijających się, zatrudnianych do moderowania treści i etykietowania danych, którzy za pracę narażającą ich na kontakt z patologicznymi treściami otrzymują głodowe stawki.

Alternatywne ścieżki rozwoju AI

Hao podkreśla, że postęp w AI nie musi wiązać się z obecnymi szkodami. Przykładem jest AlphaFold od Google DeepMind, system wykorzystywany w odkrywaniu leków i badaniach nad chorobami, który nie generuje problemów ze zdrowiem psychicznym ani szkód środowiskowych. To dowodzi, że istnieją inne, bardziej zrównoważone i etyczne ścieżki rozwoju AI.

Geopolityczny kontekst i iluzja liberalizacji

Narracja o potrzebie wyprzedzenia Chin w wyścigu AI, by Silicon Valley mogło wywierać liberalizujący wpływ na świat, okazała się, zdaniem Hao, fałszywa. Różnica między USA a Chinami wcale się nie zwiększyła, a Silicon Valley wywarło negatywny wpływ na świat. Paradoksalnie, jedynym, który wyszedł z tej sytuacji bez szwanku, wydaje się być sam Silicon Valley.

Komercjalizacja misji a dobro ludzkości

Wiele osób argumentuje, że ChatGPT i inne modele językowe przynoszą korzyści, automatyzując zadania i zwiększając produktywność. Jednak struktura OpenAI – częściowo non-profit, częściowo for-profit – utrudnia ocenę wpływu firmy na ludzkość. Dodatkowo, zbliżające się wejście firmy na giełdę, po porozumieniu z Microsoftem, budzi obawy, że misja firmy zostanie podporządkowana zyskom. Byli pracownicy OpenAI wyrażają obawy, że firma zaczyna mylić zadowolenie użytkowników z realnym wpływem na dobro ludzkości.

Hao podsumowuje, że ślepe oddanie misji, bez uwzględniania rzeczywistych szkód, jest niebezpieczne. Ignorowanie dowodów na to, że rozwijana technologia krzywdzi znaczną liczbę osób, i usprawiedliwianie tego nadrzędnym celem, jest niepokojące. Potrzebne jest krytyczne spojrzenie na rozwój AI, uwzględniające etyczne i społeczne konsekwencje, by uniknąć budowy imperium, które w imię postępu zaprzecza swoim własnym ideałom.