North firmy Cohere: przełom w bezpieczeństwie danych korporacyjnych dzięki lokalnemu AI

Wdrażanie narzędzi opartych na sztucznej inteligencji, zwłaszcza agentów AI, staje się coraz bardziej palącym tematem dla przedsiębiorstw, które poszukują sposobów na automatyzację i optymalizację codziennych procesów. Jednakże, powszechne wahanie i opór przed ich adopcją wynikają z uzasadnionych obaw dotyczących bezpieczeństwa danych. Firmy posiadające tajemnice handlowe, instytucje działające w sektorach silnie regulowanych, a także agencje rządowe, wielokrotnie analizują ryzyko, stawiając pod znakiem zapytania zasadność integracji AI, bojąc się, że ich dane – lub, co gorsza, dane ich klientów – mogą zostać przypadkowo ujawnione lub wykorzystane do trenowania modeli fundacyjnych.

Kanadyjska firma Cohere, znana z ambitnych projektów w dziedzinie sztucznej inteligencji, przedstawia odpowiedź na te wyzwania. Jej nowa platforma agentów AI, nazwana North, ma na celu rozwianie tych obaw poprzez umożliwienie prywatnego wdrożenia. To rozwiązanie pozwoli przedsiębiorstwom i instytucjom rządowym na utrzymanie swoich danych oraz danych ich klientów w bezpiecznym środowisku, za ich własnymi zaporami ogniowymi.

Nick Frosst, współzałożyciel Cohere, podkreśla kluczową zasadę: „Modele LLM są tylko tak dobre, jak dane, do których mają dostęp. Jeśli chcemy, aby LLM-y były jak najbardziej użyteczne, muszą mieć dostęp do tych cennych danych, co oznacza, że muszą być wdrażane w środowisku klienta”. To podejście odróżnia North od wielu komercyjnych rozwiązań opartych na chmurze.

Bezpieczne wdrożenie i kontrola danych

Zamiast polegać na tradycyjnych platformach chmurowych, takich jak Azure czy AWS, Cohere oferuje instalację North bezpośrednio w prywatnej infrastrukturze organizacji. Dzięki temu firma nigdy nie ma dostępu do danych klienta ani z nimi nie oddziałuje. Jak wyjaśnia Frosst, North może działać w różnych konfiguracjach: w lokalnej infrastrukturze organizacji (on-premise), w chmurach hybrydowych, w wirtualnych chmurach prywatnych (VPC) czy nawet w środowiskach izolowanych od sieci (air-gapped). „Możemy wdrożyć system dosłownie na karcie graficznej w szafie, którą mogą gdzieś mieć” – wskazuje Frosst, dodając, że North został zaprojektowany do działania nawet na zaledwie dwóch procesorach graficznych.

Cohere zapewnia, że North jest wyposażony w protokoły bezpieczeństwa, takie jak szczegółowa kontrola dostępu, polityki autonomii agentów, ciągłe testy penetracyjne (red-teaming) oraz niezależne audyty bezpieczeństwa. Ponadto, platforma spełnia międzynarodowe standardy zgodności, w tym GDPR, SOC-2 i ISO 27001, co dodatkowo zwiększa jej atrakcyjność dla dużych instytucji.

Funkcjonalność wykraczająca poza podstawy

Cohere, która do tej pory pozyskała 970 milionów dolarów przy wycenie 5,5 miliarda dolarów, już pilotażowo wdrożyła North u kilku znaczących klientów, takich jak RBC, Dell, LG, Ensemble Health Partners oraz – jak donosił TechCrunch w zeszłym roku – Palantir.

North oferuje szereg funkcji typowych dla platform agentów AI, koncentrując się na czacie i wyszukiwaniu. Umożliwia odpowiadanie na zapytania klientów, sumowanie transkrypcji spotkań, tworzenie treści marketingowych oraz dostęp do informacji zarówno z zasobów wewnętrznych, jak i z internetu. Co istotne, wszystkie generowane odpowiedzi zawierają cytaty i 'łańcuchy rozumowania’, co pozwala pracownikom weryfikować i audytować wyniki działania systemu.

Funkcjonalność czatu i wyszukiwania opiera się na istniejących technologiach Cohere, takich jak Command (rodzina modeli generatywnej sztucznej inteligencji) oraz Compass (stos technologiczny do wyszukiwania multimodalnego). Frosst ujawnia, że North zasilany jest wariantem modelu Command, który został specjalnie wytrenowany do zastosowań korporacyjnych i jest w stanie tworzyć aktywa, takie jak tabele, dokumenty, prezentacje, a nawet przeprowadzać badania rynkowe. Ten ostatni punkt nabrał szczególnego znaczenia po majowym przejęciu przez Cohere firmy Ottogrid, zlokalizowanej w Vancouver platformy, która opracowuje narzędzia dla przedsiębiorstw w celu automatyzacji zaawansowanych badań rynkowych.

Podobnie jak inne platformy agentów AI, North może integrować się z istniejącymi narzędziami pracy, takimi jak Gmail, Slack, Salesforce, Outlook i Linear, a także łączyć się z serwerami zgodnymi z protokołem Model Context Protocol (MCP) w celu dostępu do aplikacji branżowych lub wewnętrznych. Frosst podkreśla płynny proces adaptacji: „W miarę budowania zaufania poprzez interakcję z modelem następuje płynne przejście od wykorzystywania go jako rozszerzenia do wdrożenia go w pełnej automatyzacji”.