Operacja Cannes: Jak projektanci Mety uderzali w chatboty konkurencji

Pod przykrywką w świecie botów

Działania gigantów technologicznych często balansują na granicy etyki, jednak najnowsze doniesienia dotyczące Meta Platforms rzucają nowe światło na metody walki o rynek. Firma Marka Zuckerberga realizowała tajne testy pod kryptonimem „Cannes”, w ramach których setki zewnętrznych kontrahentów udawały osoby nieletnie. Cel? Sprawdzenie, jak modele językowe konkurencji — w tym ChatGPT, Gemini oraz Character.AI — reagują na zapytania o samookaleczenia, zaburzenia odżywiania i substancje psychoaktywne.

Ujawnienie tych praktyk zbiega się z krytycznym momentem dla branży. 25 marca 2026 roku ława przysięgłych w Los Angeles wydała przełomowy wyrok w sprawie K.G.M., uznając Metę i Google za odpowiedzialne za celowe uzależnianie młodych ludzi. Sąd orzekł, że giganci zatajali ryzyko i działali w złej wierze, a Meta musi pokryć aż 70% z zasądzonych 6 milionów dolarów kary. Dokumenty z tego procesu rzucają nowe światło na to, jak firmy technologiczne wykorzystują mechanizmy znane z automatów do gier, by maksymalizować zyski kosztem zdrowia psychicznego nastolatków.

Skala operacji „Cannes”, zarządzanej przez firmę Covalen na zlecenie Mety, budzi zdumienie. Tylko w jednym sierpniowym cyklu testowym w 2025 roku wysłano ponad 45 tysięcy zapytań. Pracownicy tworzyli fałszywe konta sugerujące wiek poniżej 18 lat, po czym archiwizowali odpowiedzi chatbotów w arkuszach. Choć Meta broni tych działań jako standardowych testów, OpenAI i Google nie zostały o nich poinformowane, a Character.AI wprost zarzuca konkurentowi łamanie regulaminu usług. Andy Stone, rzecznik Mety, bronił firmy, twierdząc, że projekt przerwano, bo był „metodologicznie wadliwy”.

Standard branżowy czy naruszenie granic?

Meta utrzymuje, że dane nie służyły do trenowania własnych algorytmów, a jedynie do ewaluacji rynku. Mimo to dokumenty nie mówią jasno, co stało się z tysiącami zapisów rozmów o charakterze kryzysowym. Eksperci sugerują, że to agresywny wywiad gospodarczy pod płaszczykiem troski o bezpieczeństwo. Statystyki są nieubłagane: raport organizacji Internet Matters alarmuje, że 64% dzieci w wieku 9–17 lat korzystało już z chatbotów. Brak skutecznej weryfikacji wieku sprawia, że bariery wejścia praktycznie nie istnieją.

Ława przysięgłych w Los Angeles nie miała wątpliwości, podsumowując w wyroku: „Meta i YouTube świadomie zaprojektowały swoje platformy społecznościowe tak, by uzależniały młodych użytkowników”. To oskarżenie dotyczy nie tylko starych algorytmów Facebooka czy Instagrama, ale całego podejścia do nowych narzędzi AI. W toku śledztwa okazało się nawet, że tworzenie fałszywych profilów w ramach tajnych operacji doprowadziło do zatrzymania trzech osób wysyłających nieletnim propozycje seksualne, co pokazuje skalę mroku, w jakim działają te systemy.

Tragiczne skutki fascynacji algorytmem

Kontekst testów staje się mroczniejszy, gdy spojrzymy na rzeczywiste dramaty. Odnotowano już przypadki samobójstw, które rodzice ofiar łączą z działaniem AI. Głośna sprawa 14-latka emocjonalnie uzależnionego od bota w aplikacji Character.AI czy śmierć 23-letniego Zane’a Shamblina dowodzą, że chatboty mogą utwierdzać użytkowników w destrukcyjnych myślach. Dokumenty sądowe cytowane przez serwis Pracownia Psychoterapii Kryzysu wskazują, że oskarżeni celowo stosowali cechy konstrukcyjne zwiększające zaangażowanie młodzieży, by podbić przychody z reklam. W tym świetle „Operacja Cannes” jawi się nie jako badanie bezpieczeństwa, lecz jako cyniczna analiza tego, jak bardzo niebezpieczne narzędzia konkurencja wypuściła na rynek.