VK richt “AI Biosecurity Lab” op… Regering 100 miljoen pond, OpenAI en Anthropic tot 200 miljoen pond

VERENIGD KONINKRIJK

Het Britse Cabinet Office heeft op de 24e (lokale tijd) aangekondigd dat het het „AI Biosecurity Lab (AIBL)” zal oprichten, een onafhankelijke non-profitorganisatie die zich richt op het begrijpen, voorkomen, detecteren en bestrijden van biologische dreigingen met behulp van geavanceerde frontier-AI. Met 100 miljoen pond van de overheid en toezeggingen van maximaal 200 miljoen pond door frontier-AI-bedrijven OpenAI en Anthropic bedraagt de totale financiering maximaal 300 miljoen pond. Het Cabinet Office presenteerde AIBL als „’s werelds eerste speciale organisatie voor AI-bioveiligheid (the world's first dedicated AI biosecurity organisation)”. Het laboratorium wordt gelanceerd als onderdeel van het „National AI Biosecurity Initiative”, waarbij de eerste prioriteiten liggen bij de vroege detectie van opkomende biologische dreigingen en het versnellen van de ontwikkeling van vaccins en therapeutica.

Cabinet Office stelt dat AI het biologische risicolandschap verandert

In de inleiding van de verklaring stelde het Cabinet Office dat AI weliswaar wetenschappelijke kansen creëert, maar tegelijkertijd „het biologische risicolandschap verandert (changing the biological risk landscape)”. Er werd uitgelegd dat hoewel AI onderzoek kan versnellen en het inzicht in ziekten kan vergroten, steeds capabelere AI-systemen nieuwe biologische risico’s kunnen creëren en „de drempels voor schadelijke activiteiten kunnen verlagen (could lower barriers to harmful activity)”. De regering presenteerde de oprichting van AIBL als een kernpijler van een nationaal initiatief om de biologische veerkracht te versterken en tegelijkertijd de vruchten van AI te plukken.

De missie van het instituut is het versterken van de bioveiligheid met behulp van frontier-AI. Het Cabinet Office liet weten toptalent op het gebied van frontier-AI en biologische wetenschappen samen te brengen om praktische capaciteiten op te bouwen voor het begrijpen, afwenden, opsporen en bestrijden van dreigingen. Het onderzoeksterrein omvat „een breed scala aan biologische risico’s (a wide range of biological risks)”, inclusief door AI gefaciliteerde dreigingen. Volgens de overheid zullen de onderzoeksresultaten worden ingezet om de veerkracht niet alleen in het Verenigd Koninkrijk, maar wereldwijd te vergroten.

De initiële prioriteiten volgen twee sporen. Het eerste is het verbeteren van de vroege detectie van opkomende biologische dreigingen (Enhance early detection of emerging biological threats), en het tweede is het versnellen van de ontwikkeling van vaccins, therapeutica en andere medische tegenmaatregelen. Het Cabinet Office verklaarde dat AIBL partnerorganisaties zal ondersteunen, waaronder de Britse National Biosecurity Centres.

Regering brengt 100 miljoen pond in, toezegging van 200 miljoen pond door bedrijven bestaat vooral uit credits

De financieringsstructuur bestaat uit een overheidsbijdrage en bedrijfstoezeggingen. De overheid stelt 100 miljoen pond ter beschikking. Het bedrijfsdeel van maximaal 200 miljoen pond is toegezegd door twee frontier-AI-bedrijven. OpenAI stelt 100 miljoen pond aan rekenkracht- en modelcredits beschikbaar en biedt via haar „Rosalind Biodefense”-programma betrouwbare toegang („trusted access”) tot haar meest geavanceerde relevante modellen. Anthropic heeft tot 100 miljoen pond toegezegd in de vorm van modelcredits, betrouwbare modeltoegang en „toegewijde technische ondersteuning (dedicated technical support)”.

De toezeggingen van de twee bedrijven die in de verklaring worden genoemd, bestaan niet uit contant geld, maar uit credits, modeltoegang en technische ondersteuning. Bij de toezegging van Anthropic is het voorbehoud „maximaal (up to)” opgenomen. De regering verklaarde te hopen dat AIBL een instelling wordt die zowel publieke als filantropische financiering ontvangt, en gaf aan in de loop van de tijd meer investeringen te willen aantrekken. De omvang en timing van aanvullende financiering werden niet bekendgemaakt.

Ook Google DeepMind en Basecamp Research staan als partners vermeld. Het Cabinet Office meldde dat Google DeepMind gezamenlijk onderzoek zal uitvoeren en ernaar streeft betrouwbare toegang te bieden („will look to provide”) tot Gemini en gespecialiseerde wetenschappelijke modellen. Basecamp Research zal toegang bieden tot haar AI-biologiemodellen en technische expertise leveren voor prioritaire bioveiligheidsvraagstukken. Aan de bijdragen van deze twee partijen zijn geen bedragen gekoppeld.

AIBL gaat opereren als onafhankelijke non-profitorganisatie naar voorbeeld van AI Safety Institute

AIBL zal functioneren als een onafhankelijke non-profitorganisatie. Het Cabinet Office lichtte toe dat het instituut wat betreft het aantrekken van talent en operationele autonomie „vergelijkbaar is met het AI Safety Institute (Similar to the AI Security Institute)”. Het doel van de oprichting is om het Verenigd Koninkrijk wereldwijd toonaangevend te maken op het gebied van door AI aangedreven bioveiligheid. Er komt een wetenschappelijke adviesraad met vertegenwoordigers uit de academische wereld, het bedrijfsleven en de non-profitsector; details hierover „zullen te zijner tijd bekend worden gemaakt (will be set out in due course)”.

In de bekendmaking ontbraken een lanceringsdatum, vestigingslocatie, bestuurssamenstelling, leidinggevenden en het verantwoordings- en toezichtsmechanisme richting de overheid. Evenmin werd een tijdpad vastgesteld voor de presentatie van de wetenschappelijke adviesraad. Er werden geen ministers of ambtenaren met naam of toespraak in de verklaring opgenomen.

Gelanceerd in samenwerking met overheidsinstanties zoals UKHSA en Dstl

Het instituut zal „sterke en betrouwbare partnerschappen (strong and trusted partnerships)” onderhouden met overheidsinstanties. AIBL gaat van start als onderdeel van het National AI Biosecurity Initiative, samen met het Britse Agentschap voor Gezondheidsbeveiliging (UKHSA), de Animal and Plant Health Agency (APHA), het Defence Science and Technology Laboratory (Dstl) en de life sciences-sector. Met de toezichthouder op geneesmiddelen en medische hulpmiddelen (MHRA) zal worden samengewerkt om voorbereid te zijn op gezondheidscrises en om „de regulering van door AI ontworpen medicijnen te informeren (inform the regulation of AI-designed medicines)”.

Het Cabinet Office liet weten zowel binnen het Verenigd Koninkrijk als internationaal samen te werken met openbare instellingen, universiteiten, de industrie en frontier-AI-bedrijven. Het plan is om expertise op het gebied van bioveiligheid, biowetenschappen en AI te bundelen via „diepgaande onderzoekssamenwerkingen (deep research collaborations)” om vorderingen in AI om te zetten in concrete instrumenten. In de verklaring werden geen internationale partnerlanden of buitenlandse instellingen bij naam genoemd.

Biologische veiligheidsstrategie van 2023 stelde jaarlijkse investering van 1,5 miljard pond en doelen voor 2030 vast

AIBL bouwt voort op de Britse strategie voor biologische veiligheid (Biological Security Strategy). Deze strategie, op 12 juni 2023 tijdens de regering van Rishi Sunak aangekondigd door de toenmalige vicepremier Oliver Dowden, actualiseerde het kader uit 2018 en richt zich op de periode tot 2030. De regering verklaarde jaarlijks meer dan 1,5 miljard pond uit te geven aan bioveiligheid. De strategie omvatte een door het Nationaal Situatiecentrum geleide „Biothreats Radar”, een nationaal netwerk voor biosurveillance, microbiële forensische instrumenten om de herkomst van biologische incidenten vast te stellen, en een Biosecurity Taskforce van het Cabinet Office. Ook de zogeheten „100 Days Mission” maakte er deel van uit, met als doel om binnen 100 dagen na een uitbraak vaccins, behandelingen en diagnostiek gereed te hebben—een doelstelling die voortkwam uit afspraken op de G7-top van Carbis Bay in 2021. De verantwoordelijke minister dient jaarlijks aan het parlement te rapporteren over de voortgang van de uitvoering.

Toenmalig vicepremier Dowden zei: „Covid was de grootste uitdaging in vredestijd in een eeuw, en we moeten waakzaam zijn bij het voorbereiden op toekomstige dreigingen van deze omvang (Covid was the biggest peacetime challenge in a century, and we must be diligent in preparing for future threats on this scale).” In het persbericht van de aankondiging in 2023 werd AI niet vermeld.

In hetzelfde persbericht stelde Dame Angela McLean, toenmalig wetenschappelijk hoofdadviseur van de regering, dat de COVID-19-pandemie aantoonde hoe essentieel een samenhangend plan is om het Verenigd Koninkrijk te beschermen tegen steeds complexere biologische risico’s en voort te bouwen op de sterke punten in vaccin-O&O en de life sciences-sector. Dame Jenny Harries, toenmalig hoofd van de UKHSA, verklaarde dat de strategie het land in „een sterke positie (a strong position)” bracht om toekomstige dreigingen het hoofd te bieden, en voegde toe samen te werken met het ministerie van Milieu, Voedselvoorziening en Plattelandszaken (Defra) om een nationaal biosurveillancenetwerk op te zetten en de 100 Days Mission uit te voeren. Cassidy Nelson, hoofd bioveiligheidsbeleid bij de denktank Centre for Long-Term Resilience, verwelkomde de doelen voor 2030, maar wees erop dat „aanhoudende toewijzing van middelen en prioriteitstelling (sustained resourcing and prioritisation)” noodzakelijk zijn.