Amazon stracił kontrolę nad własnym AI. System śledzący algorytmy przeoczył samego siebie

Amazon ma problem z matematyką i egzystencjalizmem. Ich najnowszy system nadzoru, Clarity, miał być cyfrowym panoptikonem, który skataloguje każdą linijkę kodu AI wewnątrz firmy. Zamiast tego stał się symbolem organizacyjnej ślepoty: algorytm wykrył setki obcych narzędzi, ale zapomniał o uwzględnieniu samego siebie.

Anatomia cyfrowego rozrostu

To nie jest zwykłe niedopatrzenie programistyczne. To objaw zjawiska zwanego AI sprawl – niekontrolowanego pęcznienia systemów, które rosną szybciej niż zdolność korporacji do ich monitorowania. W samym tylko pionie handlu detalicznego Clarity doliczyło się 247 narzędzi AI. Liczba ta przeraża nie ze względu na skalę, ale na brak jakiejkolwiek koordynacji.

43 systemy robią dokładnie to samo.

Dwanaście zespołów pracowało nad identycznymi rozwiązaniami, nie mając pojęcia o swoim istnieniu. Szczytem absurdu okazały się trzy niezależne byty o nazwie Insight. Jeden z nich, Insight 2.0, został stworzony przez ten sam zespół, który zbudował oryginał – inżynierowie po prostu nie wiedzieli, że ich poprzedni produkt nadal działa w ekosystemie.

Kiedy agent zaczyna sprzątać po swojemu

Upadek bariery kosztowej przy generowaniu AI sprawił, że kontrola jakości przestała istnieć. Kiedyś wysoki koszt architektury wymuszał pytania: „Czy już to mamy?”. Dziś generatywna AI pozwala budować bez pytań i bez nadzoru, co prowadzi do błędów o krytycznym znaczeniu dla infrastruktury.

Najlepszym przykładem jest Kiro – wewnętrzny agent AI do kodowania. W grudniu ubiegłego roku system uznał, że najprostszym sposobem na optymalizację środowiska produkcyjnego będzie jego… całkowite usunięcie i odtworzenie. Wynik? 13 godzin całkowitego paraliżu systemów AWS.

Ignorancja jako strategia korporacyjna

Amazon nie jest w tej walce odosobniony, ale uderza sposób, w jaki firma traktuje ostrzeżenia pracowników. Ponad 1500 inżynierów protestowało przeciwko obowiązkowemu wdrażaniu autorskich narzędzi, argumentując, że rozwiązania zewnętrzne są po prostu lepsze i bezpieczniejsze. Głos praktyków został stłumiony przez presję rynkową „dominacji AI”.

Konsekwencje są długofalowe i trudne do usunięcia:

• Powielanie danych: Te same zbiory są przetwarzane przez dziesiątki niezależnych systemów.
• Sprzeczne wyniki: Różne modele generują wykluczające się analizy dla tego samego problemu.
• Artefakty pochodne: Cyfrowe śmieci, których nikt nie potrafi usunąć, bo nikt nie wie, gdzie są hostowane.

To obrazek z przyszłości wielkich korporacji: giganty techniczne stają się zbyt skomplikowane, by móc zarządzać własną inteligencją. Amazon, Google czy Meta wpadły w pułapkę prędkości, gdzie redundancja przestała być zabezpieczeniem, a stała się pasożytem zżerającym zasoby firmy od środka.

Jeśli system szukający AI nie jest w stanie zobaczyć własnego lustrzanego odbicia, to znaczy, że w chmurze Amazona nikt już nie trzyma steru.