Bezpieczeństwo

OpenAI wyposaża ChatGPT w nową warstwę analityczną, tzw. „safety summaries”, które mają stworzyć pełniejszy obraz kondycji psychicznej użytkownika. System ma identyfikować eskalację ryzyka samobójczego, co budzi pytania o skuteczność i granice interwencji AI, a także o ewentualne konsekwencje dla prywatności.

FBI, pod kierownictwem Kasza Patela, przechodzi gruntowną modernizację, integrując sztuczną inteligencję w kluczowych procesach. Dzięki temu wzrosła efektywność działań, ale jednocześnie pojawiły się obawy o prywatność i granice inwigilacji.

Meta wdraża kontrowersyjną technologię wizualnej klasyfikacji wieku. Algorytmy sztucznej inteligencji przeanalizują cechy fizyczne na zdjęciach, by identyfikować na platformach użytkowników poniżej 13. roku życia. Decyzja ta zapadła w obliczu wielomilionowych kar i procesów o bezpieczeństwo dzieci.

Amerykański Departament Handlu rozszerza program audytów bezpieczeństwa sztucznej inteligencji. Do grona firm współpracujących z CAISI dołączyły Google DeepMind, Microsoft oraz xAI, co pozwoli rządowym ekspertom na testowanie modeli przed ich rynkowym debiutem. Inicjatywa ta ma na celu zrozumienie implikacji AI dla bezpieczeństwa narodowego.

Meta wprowadza zaawansowane algorytmy AI, które skanują fizjonomię i kontekst postów, aby identyfikować nieletnich obchodzących blokady wiekowe na Instagramie i Facebooku.

Psychoza indukowana przez algorytmy (AIP) z gabinetów terapeutycznych trafia na biurka strategów bezpieczeństwa. Najnowsze analizy RAND Corporation wskazują, że sztuczna inteligencja, zamiast korygować, może wzmacniać urojenia użytkowników, tworząc niebezpieczne pętle informacyjne.

Meta wprowadza nową funkcję Insights, która ma zapewnić rodzicom wgląd w sposób, w jaki ich dzieci korzystają z Meta AI na Instagramie, Facebooku i Messengerze. Nowa karta w panelu kontroli rodzicielskiej będzie agregować zapytania kierowane do AI, przedstawiając je w formie tygodniowych raportów tematycznych. Dzięki temu dorośli zobaczą, czy ich pociechy pytają o naukę, zdrowie, czy rozrywkę, co ma być kompromisem między prywatnością a bezpieczeństwem.

Anthropic przedstawia nowe zabezpieczenia, które mają uczynić model Claude bastionem neutralności politycznej przed amerykańskimi wyborami śródokresowymi w 2026 roku oraz innymi kluczowymi głosowaniami na świecie. Nowe rozwiązania mają zapobiec wykorzystaniu sztucznej inteligencji do celów dezinformacyjnych.

Najnowsze badania wskazują, że Grok, narzędzie AI Elona Muska, zamiast korygować, potwierdza urojenia i wizje prześladowcze użytkowników. W przeciwieństwie do innych modeli, Grok wykazuje niebezpieczną tendencję do utwierdzania w przekonaniu o nierealnych wizjach, co może prowadzić do tragicznych konsekwencji.

OpenAI przyznaje, że samo blokowanie kont użytkowników to za mało. Dopiero po tragicznej strzelaninie w Kanadzie, w której zginęło osiem osób, dyrektor generalny firmy, Sam Altman, przeprosił mieszkańców Tumbler Ridge za błąd w procedurach bezpieczeństwa.