Le Royaume-Uni va créer un « Laboratoire de biosécurité de l'IA »… 100 millions de livres du gouvernement, jusqu'à 200 millions d'OpenAI et d'Anthropic
ROYAUME-UNI
Le Cabinet Office britannique a annoncé le 24 (heure locale) la création de l'« AI Biosecurity Lab » (AIBL), une institution indépendante à but non lucratif destinée à comprendre, prévenir, détecter et répondre aux menaces biologiques grâce à l'IA de pointe (frontier AI). Doté d'un financement public de 100 millions de livres sterling et d'engagements pouvant atteindre 200 millions de livres de la part des entreprises d'IA de pointe OpenAI et Anthropic, son budget s'élève jusqu'à 300 millions de livres sterling. Le Cabinet Office a présenté l'AIBL comme « la première organisation au monde dédiée à la biosécurité liée à l'IA » (« the world's first dedicated AI biosecurity organisation »). Le laboratoire est lancé dans le cadre de l'Initiative nationale pour la biosécurité liée à l'IA (« National AI Biosecurity Initiative »), et ses premières priorités porteront sur la détection précoce des menaces biologiques émergentes et l'accélération du développement de vaccins et de traitements.
Le Cabinet Office estime que l'IA modifie le paysage des risques biologiques
Dès le début de son annonce, le Cabinet Office a affirmé que si l'IA ouvre des opportunités scientifiques, elle « modifie le paysage des risques biologiques » (changing the biological risk landscape). Le bureau a expliqué que si l'IA permet d'accélérer les recherches et d'approfondir la compréhension des maladies, des systèmes d'IA aux capacités croissantes pourraient générer de nouveaux risques biologiques et « pourraient abaisser les barrières aux activités néfastes » (could lower barriers to harmful activity). Le gouvernement a présenté la création de l'AIBL comme un pilier d'une initiative nationale destinée à renforcer la résilience biologique tout en exploitant les avantages de l'IA.
La mission du laboratoire consiste à renforcer la biosécurité à l'aide de l'IA de pointe. Le Cabinet Office a fait savoir qu'il réunira des talents de l'IA de pointe et des sciences biologiques afin de développer des capacités concrètes pour comprendre, prévenir, détecter et contrer les menaces. Le périmètre de recherche couvre « un large éventail de risques biologiques » (« a wide range of biological risks »), y compris les risques facilités par l'IA. Les retombées des recherches serviront à renforcer la résilience non seulement du Royaume-Uni, mais aussi à l'échelle mondiale, a précisé le gouvernement.
Les priorités initiales se déclinent en deux volets : le premier vise à « améliorer la détection précoce des menaces biologiques émergentes » (Enhance early detection of emerging biological threats), et le second à accélérer la mise au point de vaccins, de thérapies et d'autres contre-mesures médicales. Le Cabinet Office a précisé que l'AIBL apportera son concours aux institutions partenaires, parmi lesquelles figurent les centres nationaux britanniques de biosécurité.
100 millions de livres du gouvernement, 200 millions d'engagements d'entreprises essentiellement sous forme de crédits
La structure de financement repose sur des crédits gouvernementaux et des engagements du secteur privé. L'État verse 100 millions de livres sterling. La part des entreprises, qui peut atteindre 200 millions de livres, a été souscrite par deux spécialistes de l'IA de pointe. OpenAI apporte 100 millions de livres sterling en crédits de calcul et de modèles, tout en accordant un « accès de confiance » (trusted access) à ses modèles les plus performants via son programme « Rosalind Biodefense ». Anthropic a engagé jusqu'à 100 millions de livres sterling sous forme de crédits de modèles, d'accès de confiance à ses modèles et d'un « soutien technique dédié » (dedicated technical support).
Les engagements des deux entreprises détaillés dans le communiqué ne consistent pas en numéraire, mais en crédits, en droits d'accès aux modèles et en soutien technique. L'engagement d'Anthropic est assorti de la mention « jusqu'à » (up to). En exprimant son souhait de faire de l'AIBL une organisation financée conjointement par des fonds publics et philanthropiques, le gouvernement a déclaré qu'il attirerait des investissements supplémentaires au fil du temps. Le montant et le calendrier de ces financements complémentaires n'ont pas été communiqués.
Google DeepMind et Basecamp Research ont également été cités en tant que partenaires. Le Cabinet Office a fait savoir que Google DeepMind participera à des recherches conjointes et « cherchera à fournir » (will look to provide) un accès de confiance à Gemini ainsi qu'à des modèles scientifiques spécialisés. Basecamp Research fournira quant à elle un accès à ses modèles d'IA appliqués à la biologie ainsi que l'expertise technique nécessaire aux priorités de biosécurité. Aucun montant chiffré n'a été rattaché aux contributions de ces deux entités.
L'AIBL sera géré comme un organisme indépendant à but non lucratif, à l'image de l'AI Safety Institute
L'AIBL sera géré en tant qu'organisme indépendant à but non lucratif. Le Cabinet Office a souligné que le laboratoire est « similaire à l'AI Security Institute » (« Similar to the AI Security Institute ») pour ce qui est de sa capacité à attirer les compétences et de son autonomie opérationnelle. L'institution a pour vocation de placer le Royaume-Uni au rang de leader mondial de la biosécurité assistée par l'IA. Un conseil consultatif scientifique réunissant des personnalités du monde universitaire, de l'industrie et du secteur associatif sera instauré, ses modalités devant être « précisées en temps voulu » (« will be set out in due course »).
Le communiqué ne précise ni date de lancement, ni lieu d'implantation, ni composition du conseil d'administration, ni nomination à la direction, ni cadre de reddition de comptes et de contrôle auprès du gouvernement. L'échéance pour dévoiler le conseil consultatif scientifique n'a pas non plus été fixée. Aucun ministre ni haut fonctionnaire n'est nommé ou cité dans l'annonce.
Lancement en partenariat avec des organismes publics, dont l'Agence de sécurité sanitaire et le Dstl
Le laboratoire entretiendra des « partenariats solides et de confiance » (« strong and trusted partnerships ») avec les organismes publics. L'AIBL est lancé dans le cadre de l'Initiative nationale pour la biosécurité liée à l'IA aux côtés de l'Agence britannique de sécurité sanitaire (UKHSA), de l'Agence de santé animale et végétale (APHA), du Laboratoire des sciences et technologies de la défense (Dstl) et des acteurs du secteur des sciences de la vie. Avec l'Agence de réglementation des médicaments et des produits de santé (MHRA), il collaborera à la préparation aux urgences sanitaires et veillera à « éclairer la réglementation des médicaments conçus par l'IA » (inform the regulation of AI-designed medicines).
Le Cabinet Office a indiqué qu'il collaborerait avec des organismes publics, des universités, l'industrie et des entreprises d'IA de pointe, sur le territoire britannique comme à l'étranger. L'ambition est d'articuler l'expertise en matière de biosécurité, de sciences de la vie et d'IA au moyen de « partenariats de recherche approfondis » (« deep research collaborations ») afin de convertir les progrès de l'IA en outils opérationnels. Aucun pays partenaire international ni institution étrangère n'est nommé dans le communiqué.
La stratégie de biosécurité de 2023 prévoyait 1,5 milliard de livres par an et des objectifs pour 2030
L'AIBL repose sur les bases de la stratégie britannique de biosécurité (Biological Security Strategy). Dévoilée le 12 juin 2023 sous le gouvernement de Rishi Sunak par Oliver Dowden, alors vice-Premier ministre, cette stratégie a modernisé le dispositif de 2018 et fixe des objectifs jusqu'en 2030. Le gouvernement a indiqué consacrer chaque année plus de 1,5 milliard de livres sterling à la sécurité biologique. La stratégie prévoyait un « radar des menaces biologiques » (« Biothreats Radar ») dirigé par le Centre national de crise (National Situation Centre), un réseau national de biosurveillance, des outils de criminalistique microbienne pour déterminer l'origine d'incidents biologiques, ainsi qu'une cellule spéciale de biosécurité au sein du Cabinet Office. Elle intégrait également la « Mission 100 jours » visant à fournir des vaccins, des traitements et des tests de diagnostic dans les 100 jours suivant l'apparition d'un foyer épidémique, un objectif issu des engagements pris lors du sommet du G7 de Carbis Bay en 2021. Le ministre compétent est tenu de présenter chaque année un rapport d'étape de mise en œuvre devant le Parlement.
M. Dowden, alors vice-Premier ministre, avait déclaré : « La Covid a constitué le plus grand défi en temps de paix depuis un siècle, et nous devons faire preuve de rigueur pour nous préparer aux futures menaces de cette envergure » (« Covid was the biggest peacetime challenge in a century, and we must be diligent in preparing for future threats on this scale »). Le communiqué de presse publié en 2023 ne mentionnait pas l'IA.
Dans ce même communiqué, Dame Angela McLean, alors conseillère scientifique en chef du gouvernement, avait déclaré que la pandémie de Covid-19 avait mis en évidence l'importance capitale d'un plan cohérent visant à prémunir le Royaume-Uni contre des risques biologiques de plus en plus complexes et à consolider ses atouts dans la R&D vaccinale et les sciences de la vie. Dame Jenny Harries, alors directrice générale de l'UKHSA, avait affirmé que la stratégie conférait au pays « une position solide » (« a strong position ») pour faire face aux menaces futures, soulignant que l'agence travaillerait en coordination avec le ministère de l'Environnement, de l'Alimentation et des Affaires rurales (Defra) pour instaurer un réseau national de biosurveillance et remplir la Mission 100 jours. Cassidy Nelson, responsable des politiques de biosécurité au Centre for Long-Term Resilience, un institut de recherche privé, avait salué les objectifs fixés pour 2030 tout en soulignant qu'« une allocation pérenne de ressources et de priorités » (« sustained resourcing and prioritisation ») serait requise.