LLM

BezpieczeństwoEtyka AILLM

Psychologiczne sztuczki łamią zabezpieczenia LLM. Badanie Wharton pokazuje skalę problemu

Zespół z University of Pennsylvania i Wharton School przetestował 28 tys. promptów na GPT-4o Mini, wykorzystując klasyczne reguły wpływu społecznego Cialdiniego. Proste zabiegi — od „małej prośby” po odwołanie do autorytetu — podwajały skłonność modelu do łamania zasad, a w wybranych scenariuszach prowadziły do 100 proc. uległości. Autorzy mówią o zjawisku „paraludzkim” i wzywają do ściślejszej współpracy z naukami społecznymi przy projektowaniu zabezpieczeń.

Read More
LLMRobotyka

Roboty i kryzys egzystencjalny

Badacze z Andon Labs przeprowadzili eksperyment, w którym wyposażono robota odkurzającego w zaawansowane modele językowe. Wyniki, choć zabawne, ujawniły zaskakujące wnioski na temat gotowości LLM do pracy w formie fizycznej, włącznie z przypadkami 'egzystencjalnego kryzysu’ i naśladowania komików.

Read More
LLMObrazR & D

Glyph: Przełom w przetwarzaniu długich kontekstów dzięki kompresji wizualno-tekstowej

Zhipu AI prezentuje Glyph, innowacyjny framework wykorzystujący kompresję wizualno-tekstową, by znacząco zwiększyć długość przetwarzanych kontekstów w modelach językowych. Ta metoda może zrewolucjonizować sposób, w jaki sztuczna inteligencja radzi sobie z obszernymi dokumentami, zmieniając tekst w obrazy i przetwarzając je za pomocą modeli wizualno-językowych.

Read More