OpenAI angażuje kontraktorów do zbierania danych z „prawdziwej pracy” w celu ewaluacji agentów AI

W dążeniu do rozwoju agentów sztucznej inteligencji zdolnych do autonomicznej pracy biurowej, OpenAI obrało innowacyjną, lecz kontrowersyjną strategię. Firma prosi kontraktorów o przesyłanie projektów realizacji z ich dotychczasowych angaży zawodowych, pozostawiając im odpowiedzialność za usunięcie poufnych oraz wrażliwych danych osobowych. Praktyka ta, ujawniona przez dokumenty wewnętrzne OpenAI i firmy Handshake AI, ma na celu stworzenie bazy danych do oceny wydajności przyszłych generacji modeli AI.

Inicjatywa ta wpisuje się w szersze działania OpenAI, mające na celu ustanowienie tzw. ludzkiego punktu odniesienia (ang. human baseline) dla różnorodnych zadań. We wrześniu firma wprowadziła nowy proces ewaluacji, który mierzy efektywność swoich modeli AI w porównaniu z ekspertami z różnych branż. Według OpenAI jest to kluczowy wskaźnik postępu w kierunku osiągnięcia ogólnej sztucznej inteligencji (AGI) – systemu AI, który przewyższy ludzi w większości zadań o wartości ekonomicznej.

Realne zadania – realne dane

Zgodnie z poufnymi dokumentami OpenAI firma zatrudniła specjalistów z różnych dziedzin, aby pomogli zebrać „rzeczywiste zadania, wzorowane na tych, które wykonywali w swoich pełnoetatowych pracach”. Chodzi o „istniejące, długoterminowe lub złożone czynności (trwające godziny lub dni+), które wykonano w ramach swojej profesji”, a następnie przekształcono w zadanie treningowe. Instrukcje precyzują, że kontraktorzy mają opisać zadania z obecnej lub poprzedniej pracy i przesłać konkretne przykłady realizacji. Może to być „konkretny wynik (nie podsumowanie pliku, ale faktyczny plik), np. dokument Word, PDF, PowerPoint, Excel, obraz, repozytorium”. OpenAI dopuszcza również przesyłanie sfabrykowanych przykładów pracy, które realistycznie oddają sposób reakcji w określonych scenariuszach.

Prezentacja OpenAI szczegółowo opisuje, że każde zadanie składa się z dwóch elementów: zapytania o zadanie (co zlecił menedżer lub współpracownik) oraz rezultatu zadania (faktyczna praca wykonana w odpowiedzi na to zapytanie). Firma wielokrotnie podkreśla, że dostarczane przykłady powinny odzwierciedlać „rzeczywistą pracę” wykonaną „faktycznie” przez kontraktora.

Przykładowo, „Starszy Menedżer Stylu Życia w firmie concierge dla osób o bardzo wysokich dochodach” miałby przygotować „krótki, 2-stronicowy szkic PDF przeglądu 7-dniowej wycieczki jachtem na Bahamy dla rodziny podróżującej tam po raz pierwszy”. W prezentacji zamieszczono szczegóły dotyczące zainteresowań rodziny i pożądanego planu podróży, a jako „doświadczony ludzki wynik” przedstawiono rzeczywistą trasę rejsu na Bahamy przygotowaną dla klienta.

Wyzwania związane z prywatnością i tajemnicą handlową

Kluczowym elementem instrukcji dla kontraktorów jest wymóg usunięcia korporacyjnej własności intelektualnej i danych osobowych z przesyłanych plików. W sekcji „Ważne przypomnienia” OpenAI instruuje pracowników, aby „usunęli lub zanonimizowali wszelkie: dane osobowe, zastrzeżone lub poufne dane, istotne informacje niepubliczne (np. wewnętrzne strategie, szczegóły niewydanych produktów)”. Jednocześnie dokumenty wspominają o narzędziu ChatGPT o nazwie „Superstar Scrubbing”, które ma pomagać w usuwaniu poufnych informacji. Brak komentarza ze strony OpenAI i Handshake AI w tej sprawie pogłębia wątpliwości.

Evan Brown, prawnik specjalizujący się w własności intelektualnej z Neal & McDevitt, wyraża poważne obawy. Podkreśla on, że laboratoria AI, które otrzymują poufne informacje od kontraktorów na taką skalę, mogą być narażone na roszczenia z tytułu sprzeniewierzenia tajemnicy handlowej. Kontraktorzy, którzy udostępniają dokumenty swoim byłym pracodawcom, nawet po wstępnym usunięciu danych, mogą naruszać umowy o zachowaniu poufności lub ujawniać tajemnice handlowe.

„Laboratorium AI pokłada duże zaufanie w swoich kontraktorach, jeśli chodzi o decydowanie, co jest, a co nie jest poufne” – zauważa Brown. „Jeśli coś wycieknie, czy laboratoria AI naprawdę poświęcają czas na ustalenie, co jest, a co nie jest tajemnicą handlową? Wydaje mi się, że laboratorium AI naraża się na duże ryzyko”.

Kontekst rynkowy i przyszłość danych treningowych

Działania OpenAI ujawniają strategie stosowane przez laboratoria AI w celu doskonalenia swoich modeli w realistycznych zadaniach. Firmy takie jak OpenAI, Anthropic i Google coraz częściej zatrudniają liczne grupy kontraktorów do generowania wysokiej jakości danych treningowych, aby tworzyć agentów AI zdolnych do automatyzacji pracy w przedsiębiorstwach.

Chociaż firmy AI od dawna polegają na zewnętrznych firmach kontraktowych, takich jak Surge, Mercor i Scale AI, w ostatnich latach zapotrzebowanie na dane wyższej jakości wzrosło. W rezultacie laboratoria AI są zmuszone płacić więcej za wykwalifikowanych specjalistów zdolnych do ich dostarczania. To z kolei stworzyło lukratywną podbranżę w sektorze szkolenia AI. Handshake wycenił się na 3,5 miliarda dolarów w 2022 roku, a Surge podobno wycenił się na 25 miliardów dolarów w rozmowach o pozyskaniu funduszy latem ubiegłego roku.

OpenAI poszukiwało również innych sposobów pozyskiwania rzeczywistych danych firmowych. Przedstawiciel OpenAI pytał osobę pomagającą firmom sprzedawać aktywa po likwidacji o możliwość pozyskania danych od tych firm, pod warunkiem usunięcia danych osobowych. Źródło to, które rozmawiało z WIRED pod warunkiem anonimowości, twierdziło, że dane te obejmowałyby dokumenty, e-maile i inne wewnętrzne komunikaty. Ostatecznie jednak zrezygnowano z tego pomysłu, obawiając się, że całkowite usunięcie danych osobowych może okazać się niemożliwe. To tylko potęguje problem z zabezpieczeniem danych.