Eksperci o ryzyku AI: Średnio 18 proc. szans na scenariusz egzystencjalny
Debata o zagrożeniach płynących z rozwoju sztucznej inteligencji przesuwa się w stronę twardych danych. W badaniu AI Impacts, przeprowadzonym na grupie 1 489 ekspertów, średnie prawdopodobieństwo wyginięcia lub trwałego ubezwłasnowolnienia ludzkości przez AI oszacowano na 18,3 proc. Co istotne, mediana odpowiedzi wyniosła około 10 proc., co oznacza dwukrotny wzrost w porównaniu do wcześniejszych edycji tego samego badania. Warto odnotować szerszy rozkład tych prognoz: ponad 57 proc. badanych ekspertów oceniło prawdopodobieństwo wystąpienia scenariusza egzystencjalnego na co najmniej 5 proc.
Te liczbowe prognozy korelują z nastrojami w czołowych laboratoriach. Publiczne sygnały od badaczy, takich jak Jacob Coxon, Daniel Selsam czy Bilal Chughtai, wskazują na rosnący niepokój dotyczący technicznych aspektów rozwoju modeli. Głosy te znajdują potwierdzenie wewnątrz sektora komercyjnego. Evan Hubinger, badacz z firmy Anthropic, przyznał wprost: „Naprawdę szczerze wierzymy, że AI może zabić wszystkich ludzi”. W swojej ocenie określił on ryzyko takiego zdarzenia na ponad 10 proc. w perspektywie najbliższej dekady. Wśród głównych obaw wymienia się trudności z procesem alignmentu (dostrajania AI do ludzkich wartości), tempo rozwoju technologii oraz pojawianie się zachowań emergentnych, których twórcy nie planowali.
Problem nieprzejrzystości
Jednym z kluczowych czynników budujących lęk przed utratą kontroli jest postępująca „nieprzejrzystość” systemów. Aż 57 proc. respondentów uważa, że do 2029 roku użytkownicy prawdopodobnie przestaną rozumieć przesłanki stojące za decyzjami podejmowanymi przez modele AI. Ten brak przejrzystości w połączeniu z rosnącą autonomią agentów cyfrowych staje się fundamentem wezwań do zwiększenia koordynacji w branży i dofinansowania badań nad bezpieczeństwem.
Pilne zagrożenia społeczne
Mimo wysokich wskaźników dotyczących ryzyk egzystencjalnych, eksperci zachowują hierarchię priorytetów. Choć wizja ostatecznej katastrofy jest obecna w statystykach, za bardziej bezpośrednie i pilne wyzwania uznawane są krótkoterminowe skutki społeczne:
- Masowa dezinformacja i manipulacja opinią publiczną,
- Destabilizacja procesów demokratycznych,
- Wpływ na rynek pracy i globalną infrastrukturę informacyjną.
Zagrożenia te nie są traktowane jako alternatywa dla ryzyka egzystencjalnego, lecz jako jego bezpośrednie preludium. Badacze tacy jak Bilal Chughtai podkreślają, że przy obecnym tempie innowacji, nasze mechanizmy nadzoru i zabezpieczeń mogą nie nadążyć za ewolucją celów, jakie stawiają sobie coraz bardziej autonomiczne systemy.
