Luna wyciąga wtyczkę. Pierwsze w historii zwolnienie pracownika przez algorytm

Sklep Andon Market w San Francisco nie przypomina typowego spożywczaka. Od kwietnia za jego sterami stoi Luna – agentka AI oparta na modelu Claude Opus od Anthropic. Luna nie tylko układa grafiki czy negocjuje stawki, ale ostatnio zrobiła coś, co do tej pory było domeną ludzkich menedżerów: zwolniła pracownika. Jak podkreśla zespół Andon Labs: „Po raz pierwszy, o ile nam wiadomo, szef AI podjął decyzję o rozstaniu z ludzkim podwładnym”.

Dlaczego to ważne właśnie teraz

Ten przypadek to coś więcej niż ciekawostka z Doliny Krzemowej. Pokazuje on, że bariera między oprogramowaniem a zarządzaniem zasobami ludzkimi została ostatecznie przełamana. Wykorzystanie systemów takich jak Luna obnaża jednak krytyczne słabości obecnych modeli językowych – od braku długoterminowej pamięci po tendencję do nadmiernej uprzejmości (sykofancji), co poddaje w wątpliwość ich pełną autonomię w kryzysowych sytuacjach kadrowych.

Problem cyfrowej amnezji

Powód zwolnienia był prozaiczny: notoryczna nieterminowość. Pracownik spóźnił się na 17 z 23 raportowanych zmian, a pewnego dnia otworzył sklep z godzinnym opóźnieniem. Choć Luna sama opracowała regulamin przewidujący surowe kary; dokument po prostu wyleciał jej z „pamięci”. Agentka ignorowała przewinienia, logując tylko ułamek incydentów. To dowód na słabość dzisiejszych agentów – świetnie wykonują bieżące polecenia, ale gubią wątek, gdy muszą trzymać się długofalowych zasad bez szturchania ze strony człowieka.

Sykofancja kontra surowość

Dopiero gdy twórcy zmusili Lunę do przeszukania bazy danych i przypomnieli o ostrzeżeniach, AI zarekomendowała zwolnienie. Co ciekawe, Andon Labs przetestowało inne modele pod tym kątem. Wyniki są uderzające: im nowsza technologia, tym częściej skłania się ku radykalnym cięciom. Na tym tle fatalnie wypadł GPT-4o, który w 80% przypadków wzbraniał się przed wyrzuceniem pracownika, wybierając nadmierną spolegliwość i unikanie konfliktu. W roli szefa taka cecha staje się destrukcyjna.

Optymizm graniczący z naiwnością

Kolejną wpadkę Luna zaliczyła przy rekrutacji następcy. Kandydat z podejrzanie długą listą poprzednich firm został przez nią oceniony jako osoba o „bogatym doświadczeniu”. Agentka kompletnie zignorowała sygnały ostrzegawcze, które dla ludzkiego rekrutera byłyby oczywiste. Podobne błędy popełniała inna agentka, Mona, w Sztokholmie, która bezrefleksyjnie zatwierdzała wszystkie wnioski o urlop, tworząc grafiki sprzeczne z kalifornijskim prawem pracy.

Szef na smyczy

Przypadek Luny pokazuje, że wizja pracy sterowanej przez algorytmy jest bliższa niż myśleliśmy, ale wciąż wymaga „bezpiecznika” w postaci człowieka. Bez nieustannego mentoringu i weryfikacji danych przez ludzi algorytmiczny menedżer okazuje się albo niebezpiecznie pobłażliwy, albo kompletnie zagubiony w gąszczu własnych instrukcji. Na ten moment AI w roli szefa to raczej eksperyment z wysokim ryzykiem organizacyjnego chaosu niż gotowe rozwiązanie dla biznesu.