Cyberbezpieczeństwo

Po incydencie bezpieczeństwa i oskarżeniach o fabrykowanie audytów, LiteLLM rezygnuje z usług startupu Delve. Twórcy popularnego interfejsu AI stawiają na transparentność i nowego partnera, aby odzyskać wiarygodność w branży.

Złośliwe oprogramowanie wykryte w repozytorium PyPI infekuje popularną bibliotekę LiteLLM, kluczowy pomost między aplikacjami a modelami AI. Atak na łańcuch dostaw przejmuje klucze SSH, poświadczenia chmurowe i infrastrukturę Kubernetes.

Databricks ogłasza powstanie Lakewatch – inteligentnego systemu ochrony danych, rewolucjonizującego cyberbezpieczeństwo w chmurze. Za projektem stoją przejęte startupy Antimatter i SiftD.ai, które wniosły kluczową technologię agentową i kompetencje twórców języka SPL, przenosząc analitykę zagrożeń na nowy poziom.

Google Cloud zaprezentowało pakiet autonomicznych narzędzi bezpieczeństwa, które mają odciążyć analityków SOC. Nowy agent sztucznej inteligencji przejmuje proces triage’u, a systemy analizy dark webu z 98-procentową skutecznością selekcjonują zagrożenia w ukrytych zakamarkach sieci.

Rosnące obawy o bezpieczeństwo danych to główna bariera w adopcji sztucznej inteligencji. Firmy muszą stawić czoła nie tylko obecnym atakom na modele AI, ale także nadchodzącemu zagrożeniu ze strony kryptografii kwantowej.

Najnowszy raport naukowców z Uniwersytetu Tsinghua i Ant Group ujawnia krytyczne luki w zabezpieczeniach autonomicznych agentów LLM, wskazując na nowe metody ataków, takie jak zatruwanie pamięci i dryf intencji. Zidentyfikowano pięcioetapowy cykl życia systemowego ryzyka, którego nie obejmują tradycyjne zapory.

NVIDIA wprowadza OpenShell – otwartoźródłowe środowisko uruchomieniowe izolujące autonomiczne systemy AI od krytycznych zasobów systemu operacyjnego. Rozwiązanie to ma na celu zminimalizowanie ryzyka bezpieczeństwa związanego z samodzielnym wykonywaniem kodu przez zaawansowane modele sztucznej inteligencji.

Wdrożenie sztucznej inteligencji w przedsiębiorstwie wymaga zaawansowanych rozwiązań, które łączą precyzyjne odpowiedzi z rygorystycznymi regułami bezpieczeństwa. Klucz do sukcesu stanowi architektura RAG, pozwalająca bezpiecznie przetwarzać wewnętrzne dane bez ryzyka ich wycieku, którą można zbudować w pełni na otwartych źródłach.

Raport z tygodnia w cyberbezpieczeństwie obnaża kruchość systemów, które kształtują naszą codzienność. Od paraliżu amerykańskich kierowców przez atak na blokady alkoholowe, przez kontrowersje wokół handlu danymi lokalizacyjnymi przez FBI, po poważne błędy sztucznej inteligencji Mety – to tylko wierzchołek góry lodowej globalnych zagrożeń.

Amerykański startup Delve, wspierany przez prestiżowy akcelerator Y Combinator, został oskarżony o systemowe fałszowanie dowodów audytowych. Zamiast automatyzacji procesów bezpieczeństwa, firma miała oferować klientom gotowe raporty i sfabrykowaną dokumentację, narażając ich na poważne konsekwencje prawne, takie jak kary finansowe wynikające z RODO i HIPAA.