Kultura

BiznesEtyka AI

Google i przyszłość spersonalizowanej AI: Między inwazyjnością a użytecznością

Google stawia na głęboką personalizację jako klucz do przyszłości sztucznej inteligencji w swoich usługach. Integracja danych użytkowników z różnych platform, takich jak Gmail czy Kalendarz, ma prowadzić do bardziej trafnych i pomocnych odpowiedzi, jednak budzi obawy dotyczące prywatności i odczucia inwigilacji. Firma zapewnia o kontroli ze strony użytkownika i przejrzystości, lecz granica między pomocą a naruszeniem staje się coraz bardziej niewyraźna.

Read More
BezpieczeństwoEtyka AILLM

Psychologiczne sztuczki łamią zabezpieczenia LLM. Badanie Wharton pokazuje skalę problemu

Zespół z University of Pennsylvania i Wharton School przetestował 28 tys. promptów na GPT-4o Mini, wykorzystując klasyczne reguły wpływu społecznego Cialdiniego. Proste zabiegi — od „małej prośby” po odwołanie do autorytetu — podwajały skłonność modelu do łamania zasad, a w wybranych scenariuszach prowadziły do 100 proc. uległości. Autorzy mówią o zjawisku „paraludzkim” i wzywają do ściślejszej współpracy z naukami społecznymi przy projektowaniu zabezpieczeń.

Read More
Etyka AIR & D

Microsoft inwestuje w „superinteligencję humanistyczną”: Nowy kierunek rozwoju AI pod wodzą Mustafy Suleymana

Microsoft tworzy nowy zespół ds. „superinteligencji humanistycznej” pod kierownictwem Mustafy Suleymana, aby opracować AI służacą ludzkości, koncentrując się na praktycznych zastosowaniach w medycynie i energii odnawialnej. Inicjatywa stawia na kontrolowany rozwój, odcinając się od idei nieograniczonej sztucznej inteligencji.

Read More