OpenAI chce trenować modele na sesjach Daybreak Blue. Wcześniej dane z cyberbezpieczeństwa były wyłączone z treningu
OpenAI zmienia zasady dla zaufanych użytkowników narzędzi z obszaru cyberbezpieczeństwa. Jak podał The Decoder, od 29 listopada dane z sesji Daybreak Blue będą wykorzystywane do trenowania modeli. Potwierdza to e-mail wysłany do uczestników programu Trusted Access.
Zmiana jest istotna, bo dotąd te sesje były z treningu wyłączone. Dotyczyło to również osób, które miały wyłączone ustawienie „improve the model for everyone”. Teraz ten wyjątek znika.
Reakcja i druga wiadomość
Według The Decodera sprzeciw pojawił się niemal natychmiast, między innymi w mediach społecznościowych. OpenAI wysłało więc drugi e-mail, w którym obiecało osobną opcję rezygnacji. Nie wiadomo, jak ma działać ten mechanizm ani czy będzie dostępny przed 29 listopada. Interakcje oznaczone podczas przeglądów bezpieczeństwa nadal mogą być wykorzystywane do celów związanych z bezpieczeństwem.
Daybreak Blue to poziom dostępu w ramach Trusted Access. Według dokumentacji OpenAI przeznaczono go do zweryfikowanej pracy defensywnej w autoryzowanych środowiskach. Modele mają tam mniej odmów niż w standardowym trybie, a wniosek o dostęp jest weryfikowany przed aktywacją. W takich sesjach często pojawiają się więc treści, których użytkownicy zwykle nie chcieliby udostępniać.
Zapis o zmianie jest już w centrum pomocy OpenAI. Czytamy tam: „During Daybreak sessions on your personal account, we may use content from your interactions to improve our models even when ‘Improve the model for everyone’ is off”. Dotyczy to więc kont osobistych, a przełącznik prywatności, na który wcześniej mogli liczyć użytkownicy, nie wystarcza.
Cień sporu o Naviera-Stokesa
The Decoder zwraca uwagę, że obawy badaczy wzmacnia niedawny spór wokół dowodu dotyczącego równań Naviera-Stokesa. Matematycy Tristan Buckmaster i Levent Alpöge wgrali do Codexa OpenAI szkice swoich prac. Wkrótce potem firma przedstawiła własny dowód.
OpenAI zaprzecza, jakoby wykorzystało ich dane. W opublikowanym komunikacie firma napisała, że po dochodzeniu potwierdziła, iż prompty Buckmastera z dwóch miesięcy poprzedzających ogłoszenie z 8 września nie mogły wpłynąć na system, także przez trening. Dodała, że jej badacze i agenci nie widzieli cudzej pracy przed jej publicznym udostępnieniem.
Według The Decodera samo podejrzenie wystarczyło, by badacze zobaczyli, co może pójść źle, gdy prywatne materiały trafiają do systemu firmy rozwijającej własne modele. Nowa polityka dla Daybreak Blue dotyczy co prawda cyberbezpieczeństwa, a nie matematyki, ale pytanie jest podobne. Chodzi o to, czy użytkownicy mogą ufać, że wrażliwe sesje nie staną się materiałem treningowym.
