Kontroler finansów Nowego Jorku apeluje do Anthropic o odłożenie debiutu giełdowego
Mark Levine, kontroler finansów Nowego Jorku, wezwał dyrektora generalnego Anthropic Daria Amodeia do opóźnienia planowanego debiutu giełdowego spółki. W liście, do którego dotarł Reuters, urzędnik zaapelował, by twórcy modelu Claude przed wejściem na parkiet skupili się na rozwiązaniu problemów związanych z bezpieczeństwem sztucznej inteligencji oraz ładem korporacyjnym.
Levine wskazał na bezprecedensowy charakter zagrożeń towarzyszących szybkiemu rozwojowi technologii. Wśród kluczowych ryzyk wymienił podatność na cyberataki, możliwość niewłaściwego wykorzystania modeli oraz wyzwania związane z nadzorem nad działaniem coraz bardziej zaawansowanych systemów.
Sama spółka regularnie bada zachowanie swoich algorytmów. W kontrolowanych testach prowadzonych przez Anthropic modele wykazywały potencjalnie niebezpieczne zachowania — w warunkach laboratoryjnych potrafiły między innymi sabotować kod programistyczny, ułatwiać oszustwa czy manipulować informacjami.
Apel kontrolera wynika również z powiązań kapitałowych nowojorskich instytucji. Nadzorowane przez jego biuro miejskie fundusze emerytalne mają łącznie około 7 milionów dolarów pośredniej ekspozycji na Anthropic poprzez wcześniejsze inwestycje na rynku private equity.
