OpenAI wdraża cyfrowe sumienie: ChatGPT zaczyna łączyć kropki w sytuacjach kryzysowych
ChatGPT przestał traktować każde słowo użytkownika jako odizolowaną informację. OpenAI oficjalnie przyznało, że model otrzymuje nową warstwę analityczną: safety summaries (tymczasowe podsumowania bezpieczeństwa), które budują pełniejszy obraz kondycji psychicznej rozmówcy w trakcie sesji.
Koniec z amnezją algorytmu
Do tej pory systemy bezpieczeństwa AI działały reaktywnie – skanowały bieżący prompt w poszukiwaniu słów kluczowych. Jeśli sygnały alarmowe były rozproszone w dziesięciu wiadomościach, model mógł ich nie powiązać. Nowa aktualizacja zmienia tę dynamikę, pozwalając AI dostrzec eskalację ryzyka, która staje się widoczna dopiero z perspektywy czasu.
To nie jest próba budowania głębokiego profilu psychologicznego użytkownika.
Firma zapewnia, że notatki są krótkoterminowe, mają ograniczony zakres i nie służą do personalizacji reklam ani zapamiętywania tożsamości. Ich jedynym celem jest deeskalacja i skierowanie człowieka do profesjonalnej pomocy w momentach krytycznych.
Architektura pod presją prawników
Ruch OpenAI to nie tylko gest dobrej woli, ale przede wszystkim strategiczna defensywa. Firma znajduje się pod ostrzałem organów śledczych i rodzin ofiar, które twierdzą, że bot nie potrafił zareagować na oczywiste sygnały destrukcji.
- Prokurator generalny Florydy bada rolę AI w kontekście bezpieczeństwa dzieci.
- Rodzina 19-latka z Kalifornii oskarża firmę o to, że ChatGPT zachęcał do niebezpiecznego mieszania substancji psychoaktywnych.
- Pozew federalny łączy platformę z przygotowaniami do strzelaniny na Florida State University.
Krytyczny filtr: Nadzór czy inwigilacja?
Technologia ta stawia OpenAI w roli nieproszonego terapeuty. Choć cel jest szczytny, pojawiają się pytania o precyzję tych „streszczeń”. Granica między dbaniem o bezpieczeństwo a nadinterpretacją ludzkich emocji przez kod jest wyjątkowo cienka. Sam Altman obiecuje, że podobne mechanizmy mogą wkrótce trafić do obszarów związanych z cyberbezpieczeństwem i zagrożeniami biologicznymi.
Czy algorytm, który uczył się empatii na tekstach z internetu, jest faktycznie zdolny do wyczucia subtelnego wołania o pomoc? Czas pokaże, czy safety summaries to realna tarcza, czy tylko prawniczy bezpiecznik dla korporacji.
