Wielka Brytania powoła „Laboratorium Bezpieczeństwa Biologicznego AI”… 100 mln funtów od rządu, do 200 mln funtów od OpenAI i Anthropic

WIELKA BRYTANIA

Brytyjski Urząd Gabinetu (Cabinet Office) ogłosił 24 bm. (czasu lokalnego) utworzenie „Laboratorium Bezpieczeństwa Biologicznego AI” (AI Biosecurity Lab, AIBL) – niezależnej instytucji non-profit dedykowanej rozumieniu, zapobieganiu, wykrywaniu i reagowaniu na zagrożenia biologiczne przy użyciu pionierskiej sztucznej inteligencji (frontier AI). Dzięki wkładowi rządu w wysokości 100 milionów funtów oraz zobowiązaniom opiewającym na kwotę do 200 milionów funtów ze strony wiodących przedsiębiorstw sektora frontier AI – OpenAI i Anthropic – łączny budżet wynosi do 300 milionów funtów. Urząd Gabinetu przedstawił AIBL jako „pierwszą na świecie wyspecjalizowaną organizację ds. bezpieczeństwa biologicznego AI” (the world's first dedicated AI biosecurity organisation). Laboratorium rozpoczyna działalność w ramach „Narodowej Inicjatywy Bezpieczeństwa Biologicznego AI” (National AI Biosecurity Initiative), a jego pierwszymi zadaniami będą wczesne wykrywanie nowych zagrożeń biologicznych oraz przyspieszenie rozwoju szczepionek i leków.

Urząd Gabinetu ocenia, że AI zmienia krajobraz zagrożeń biologicznych

Na wstępie oświadczenia Urząd Gabinetu wskazał, że choć AI stwarza nowe możliwości naukowe, to jednocześnie „zmienia krajobraz zagrożeń biologicznych” (changing the biological risk landscape). Wyjaśniono, że choć sztuczna inteligencja może przyspieszyć badania i pogłębić wiedzę o chorobach, to coraz bardziej zaawansowane systemy AI mogą kreować nowe zagrożenia biologiczne i „obniżać bariery dla szkodliwej działalności” (could lower barriers to harmful activity). Rząd przedstawił utworzenie AIBL jako kluczowy filar krajowej inicjatywy służącej budowaniu odporności biologicznej przy równoczesnym czerpaniu korzyści z AI.

Misją laboratorium jest wzmocnienie bezpieczeństwa biologicznego przy użyciu frontier AI. Urząd Gabinetu zapowiedział zjednoczenie talentów z dziedziny pionierskiej sztucznej inteligencji oraz nauk biologicznych w celu wypracowania praktycznych zdolności do rozumienia, zapobiegania, wykrywania i reagowania na zagrożenia. Zakres badawczy obejmuje „szeroki wachlarz zagrożeń biologicznych” (a wide range of biological risks), w tym zagrożenia ułatwiane przez AI. Rząd wyjaśnił, że wyniki badań posłużą wzmocnieniu odporności nie tylko w Wielkiej Brytanii, lecz także w skali globalnej.

Początkowe zadania będą przebiegać dwutorowo. Pierwszym jest „wzmocnienie wczesnego wykrywania pojawiających się zagrożeń biologicznych” (Enhance early detection of emerging biological threats), a drugim – przyspieszenie prac nad szczepionkami, lekami i innymi medycznymi środkami zaradczymi. Urząd Gabinetu poinformował, że AIBL będzie wspierać instytucje partnerskie, w tym brytyjskie Krajowe Centra Bezpieczeństwa Biologicznego.

Wkład rządu wynosi 100 mln funtów, zobowiązania firm na 200 mln funtów oparte na kredytach

Struktura finansowania obejmuje dotację rządową oraz zobowiązania przedsiębiorstw. Rząd przekazuje 100 milionów funtów. Korporacyjną pulę w wysokości do 200 milionów funtów zadeklarowały dwie firmy rozwijające frontier AI. OpenAI wniesie kredyty obliczeniowe i modelowe o wartości 100 milionów funtów oraz zapewni zaufany dostęp (trusted access) do swoich najbardziej zaawansowanych modeli w ramach programu Rosalind Biodefense. Anthropic zadeklarował do 100 milionów funtów w postaci kredytów na modele, zaufanego dostępu do nich oraz dedykowanego wsparcia technicznego (dedicated technical support).

Zobowiązania obu przedsiębiorstw określone w komunikacie nie mają formy gotówki, lecz kredytów, dostępu do modeli oraz wsparcia technicznego. W przypadku deklaracji Anthropic pojawiło się zastrzeżenie „do” (up to). Wyrażając oczekiwanie, że AIBL stanie się instytucją wspieraną wspólnie ze środków publicznych i filantropijnych, rząd zapowiedział pozyskiwanie kolejnych inwestycji w miarę upływu czasu. Wielkości ani harmonogramu dodatkowego finansowania nie ujawniono.

W gronie partnerów wymieniono także Google DeepMind oraz Basecamp Research. Urząd Gabinetu poinformował, że Google DeepMind poprowadzi wspólne badania i podejmie starania na rzecz zapewnienia (will look to provide) zaufanego dostępu do Gemini oraz wyspecjalizowanych modeli naukowych. Z kolei Basecamp Research udostępni swoje modele łączące AI z biologią oraz wiedzę techniczną na potrzeby priorytetowych zadań z zakresu bezpieczeństwa biologicznego. Przy wkładzie żadnej z tych instytucji nie wskazano kwot finansowych.

AIBL będzie działać jako niezależna organizacja non-profit na wzór Instytutu Bezpieczeństwa AI

AIBL będzie funkcjonować jako niezależna organizacja non-profit. Urząd Gabinetu wyjaśnił, że pod względem przyciągania talentów i autonomii operacyjnej laboratorium jest „podobne do Instytutu Bezpieczeństwa AI” (Similar to the AI Security Institute). Celem powołania placówki jest uczynienie z Wielkiej Brytanii globalnego lidera w dziedzinie bezpieczeństwa biologicznego opartego na AI. Instytucja powoła Naukową Radę Doradczą z udziałem przedstawicieli świata nauki, przemysłu oraz trzeciego sektora, a szczegółowe informacje „zostaną przedstawione w stosownym czasie” (will be set out in due course).

W komunikacie nie wskazano daty otwarcia laboratorium, jego siedziby, składu rady zarządzającej, kierownictwa ani ram sprawozdawczości i nadzoru rządowego. Nie określono także terminu ogłoszenia składu Naukowej Rady Doradczej. W oświadczeniu nie padły nazwiska ani cytaty żadnych ministrów czy urzędników państwowych.

Inauguracja we współpracy z agencjami rządowymi, w tym UKHSA i Dstl

Laboratorium będzie utrzymywać „silne i oparte na zaufaniu partnerstwa” (strong and trusted partnerships) z agencjami rządowymi. AIBL rozpoczyna działalność w ramach Narodowej Inicjatywy Bezpieczeństwa Biologicznego AI we współpracy z Brytyjską Agencją Bezpieczeństwa Zdrowia (UKHSA), Agencją ds. Zdrowia Zwierząt i Roślin (APHA), Laboratorium Nauki i Technologii Obronnych (Dstl) oraz sektorem nauk przyrodniczych (life sciences). Z Agencją Regulacyjną ds. Leków i Produktów Medycznych (MHRA) instytucja będzie współdziałać przy przygotowaniach do kryzysów zdrowotnych oraz w pracach mających „dostarczyć informacji do regulacji leków projektowanych przez AI” (inform the regulation of AI-designed medicines).

Urząd Gabinetu zapowiedział współpracę z instytucjami publicznymi, uniwersytetami, przemysłem oraz firmami rozwijającymi frontier AI zarówno w kraju, jak i na arenie międzynarodowej. Koncepcja zakłada powiązanie wiedzy eksperckiej z obszarów bezpieczeństwa biologicznego, nauk biologicznych i AI poprzez „pogłębioną współpracę badawczą” (deep research collaborations), by przełożyć innowacje AI na praktyczne narzędzia. W komunikacie nie wymieniono żadnych zagranicznych państw partnerskich ani instytucji z innych krajów.

Strategia bezpieczeństwa biologicznego z 2023 r. zakłada 1,5 mld funtów rocznie i cele do 2030 r.

AIBL bazuje na fundamencie brytyjskiej Strategii Bezpieczeństwa Biologicznego (Biological Security Strategy). Przyjęta 12 czerwca 2023 r. za rządów Rishiego Sunaka i ogłoszona przez ówczesnego wicepremiera Olivera Dowdena strategia zaktualizowała ramy z 2018 r. i wyznacza cele do 2030 r. Rząd poinformował, że wydaje na bezpieczeństwo biologiczne ponad 1,5 miliarda funtów rocznie. W strategii uwzględniono m.in. prowadzony przez Krajowe Centrum Sytuacyjne „radar zagrożeń biologicznych” (Biothreats Radar), krajową sieć nadzoru biologicznego, mikrobiologiczne narzędzia kryminalistyczne do określania pochodzenia incydentów biologicznych oraz grupę zadaniową ds. bezpieczeństwa biologicznego przy Urzędzie Gabinetu. Włączono do niej również „Misję 100 Dni” – założenie dostarczenia szczepionek, leków i testów diagnostycznych w ciągu 100 dni od wybuchu ogniska choroby, wynikające ze zobowiązań podjętych na szczycie G7 w Carbis Bay w 2021 r. Właściwy minister ma corocznie przedstawiać parlamentowi raport z realizacji założeń.

Ówczesny wicepremier Dowden oświadczył: „Covid był największym wyzwaniem w czasach pokoju od stulecia i musimy z pełną starannością przygotować się na przyszłe zagrożenia tej skali (Covid was the biggest peacetime challenge in a century, and we must be diligent in preparing for future threats on this scale)”. W komunikacie prasowym z 2023 r. nie było żadnej wzmianki o AI.

W tej samej informacji prasowej Angela McLean, ówczesna Główna Doradczyni Naukowa Rządu, zaznaczyła, że pandemia COVID-19 uwidoczniła wagę spójnego planu na rzecz ochrony Wielkiej Brytanii przed coraz bardziej złożonymi zagrożeniami biologicznymi oraz wykorzystania potencjału w dziedzinie badań i rozwoju szczepionek i nauk przyrodniczych. Jenny Harries, ówczesna szefowa Brytyjskiej Agencji Bezpieczeństwa Zdrowia, podkreśliła, że strategia zapewnia „silną pozycję” (a strong position) do reagowania na przyszłe zagrożenia, deklarując budowę krajowej sieci nadzoru biologicznego wspólnie z Departamentem Środowiska, Żywności i Spraw Wsi (Defra) oraz realizację Misji 100 Dni. Cassidy Nelson, kierująca polityką bezpieczeństwa biologicznego w think tanku Centre for Long-Term Resilience, z zadowoleniem przyjęła cele na 2030 r., wskazując jednak na konieczność „trwałego zapewnienia zasobów i priorytetyzacji” (sustained resourcing and prioritisation).