Wielka Brytania da 100 mln funtów na laboratorium bezpieczeństwa biologicznego AI
Brytyjski rząd chce stworzyć narodowe AI Biosecurity Lab (AIBL), które ma wzmocnić obronę kraju przed nowymi zagrożeniami biologicznymi. Jak informuje BBC, 100 mln funtów na ten cel trafi do środowego budżetu, a instytucję władze nazywają „world first”. Szczegółów dotyczących zadań i zakresu działania laboratorium na razie nie ma.
Minister ds. AI Kanishka Narayan opisał AIBL jako „major new global institution”, która ma skupić „world-leading scientific expertise”. Według niego chodzi o to, by Wielka Brytania wyprzedzała zagrożenia, „from cyber attacks to biological risks”, i jednocześnie rozwijała technologie krytyczne dla własnego bezpieczeństwa.
Kredyty zamiast gotówki
Projekt wesprą najwięksi twórcy modeli. OpenAI i Anthropic mają dostarczyć kredyty na korzystanie ze swoich modeli o łącznej wartości 200 mln funtów. To zasoby obliczeniowe i dostęp do modeli, a nie pieniądze do budżetu laboratorium.
Według komunikatu rządowego, na który powołuje się research, 100 mln funtów na AIBL to część większego programu National AI Biosecurity Initiative, wartego łącznie 165 mln funtów. Pozostałe 65 mln ma pójść na nadzór biologiczny (bio-surveillance) i rozwój środków zaradczych wobec priorytetowych patogenów. Szczegóły opisuje komunikat na gov.uk.
Więcej pieniędzy dla AISI i cyberobrony
Biologia to tylko jedna część pakietu. Dodatkowe 120 mln funtów dostanie AI Security Institute, czyli instytut powołany w 2023 roku przez poprzedni, konserwatywny rząd. Ocenia on ryzyka związane z najpotężniejszymi modelami i jest chwalony za otwarte, oparte na współpracy podejście do testowania AI. Nowe środki mają mu pozwolić kontynuować pracę w czasie, gdy rośnie nacisk na standardy techniczne i bariery bezpieczeństwa w rozwoju AI.
Osobno rząd zapowiada:
- 60 mln funtów na „National Cyber Shield”, który ma wykorzystywać agentową AI do wzmacniania cyberobrony;
- 70 mln funtów na National Exposure and Real-Time Vulnerability (NERV) Centre, czyli ośrodek wykrywający przy pomocy narzędzi AI luki w zabezpieczeniach krytycznej infrastruktury i gospodarki.
John Healey, cytowany przez BBC, mówił o podejściu, które „doesn’t leave workers behind and defends our national interest”, a jednocześnie pozwala, by korzyści ze wzrostu opartego na AI odczuł cały kraj.
Tło: luka w PHP
BBC przypomina też o świeżym incydencie. Rząd Wielkiej Brytanii należał do organizacji, które prewencyjnie wyłączyły część stron po ujawnieniu krytycznych luk w PHP, języku skryptowym po stronie serwera używanym w web developmencie od dziesięcioleci. Badacze, którzy je znaleźli, ostrzegali, że platformy korzystające z PHP mogą być narażone na ataki. Podatność nazwano php2shell. Do tej pory nie zgłoszono udanych prób jej wykorzystania.
Eksperci cytowani przez BBC wskazują, że ta sprawa pokazuje, jak szybko i łatwo AI może wydobyć na wierzch błędy, które przez lata pozostawały uśpione, i potencjalnie umożliwić ich wykorzystanie.
