Großbritannien gründet „KI-Biosicherheitslabor“… Regierung 100 Millionen, OpenAI und Anthropic bis zu 200 Millionen Pfund
GROSSBRITANNIEN
Das britische Kabinettsbüro (Cabinet Office) gab am 24. (Ortszeit) bekannt, dass es das „AI Biosecurity Lab (AIBL)“ gründet, eine unabhängige gemeinnützige Institution, die Frontier-KI einsetzt, um biologische Bedrohungen zu verstehen, zu verhindern, zu erkennen und darauf zu reagieren. Die Regierung stellt 100 Millionen Pfund bereit, und die Frontier-KI-Unternehmen OpenAI und Anthropic sagten bis zu 200 Millionen Pfund zu, sodass sich das Gesamtbudget auf bis zu 300 Millionen Pfund beläuft. Das Cabinet Office stellte das AIBL als „die weltweit erste dedizierte Organisation für KI-Biosicherheit (the world's first dedicated AI biosecurity organisation)“ vor. Das Forschungslabor startet als Teil der „Nationalen KI-Biosicherheitsinitiative (National AI Biosecurity Initiative)“, und seine ersten Aufgaben sind die Früherkennung neuartiger biologischer Bedrohungen sowie die Beschleunigung der Entwicklung von Impfstoffen und Therapeutika.
Cabinet Office diagnostiziert: KI verändert die biologische Risikolandschaft
Gleich zu Beginn seiner Mitteilung erklärte das Cabinet Office, dass KI zwar wissenschaftliche Chancen eröffne, aber zugleich die biologische Risikolandschaft verändere („changing the biological risk landscape“). KI könne die Forschung voranbringen und das Verständnis von Krankheiten erweitern, doch immer leistungsfähigere KI-Systeme könnten neue biologische Risiken schaffen und die Hemmschwelle für schädliche Aktivitäten senken („could lower barriers to harmful activity“). Die Regierung stellte die Gründung des AIBL als eine Säule der nationalen Initiative vor, um die biologische Resilienz zu stärken und gleichzeitig die Vorteile von KI zu nutzen.
Die Aufgabe des Labors besteht darin, die Biosicherheit durch den Einsatz von Frontier-KI zu stärken. Das Cabinet Office kündigte an, Talente aus den Bereichen Frontier-KI und Biowissenschaften zusammenzubringen, um praktische Fähigkeiten zur Erkennung, Verhinderung, Erforschung und Bewältigung von Bedrohungen aufzubauen. Zu den Forschungsgegenständen gehört ein „breites Spektrum biologischer Risiken (a wide range of biological risks)“, einschließlich durch KI ermöglichter Gefahren. Die Forschungsergebnisse sollen nach Angaben der Regierung nicht nur im Vereinigten Königreich, sondern weltweit zur Stärkung der Resilienz beitragen.
Die anfänglichen Aufgaben gliedern sich in zwei Bereiche. Der eine ist die Verbesserung der Früherkennung neu auftretender biologischer Bedrohungen („Enhance early detection of emerging biological threats“), der andere die Beschleunigung der Entwicklung von Impfstoffen, Therapeutika und weiteren medizinischen Gegenmaßnahmen. Das Cabinet Office teilte mit, dass das AIBL Partnerorganisationen unterstützen wird, darunter die National Biosecurity Centres des Vereinigten Königreichs.
100 Millionen Pfund von der Regierung, 200-Millionen-Pfund-Zusage der Unternehmen basiert vor allem auf Guthaben
Die Finanzierung setzt sich aus staatlichen Beiträgen und Unternehmenszusagen zusammen. Die Regierung steuert 100 Millionen Pfund bei. Der Unternehmensanteil von bis zu 200 Millionen Pfund wurde von zwei Frontier-KI-Unternehmen zugesagt. OpenAI stellt Rechen- und Modellguthaben im Wert von 100 Millionen Pfund bereit und bietet über sein Programm „Rosalind Biodefense“ vertrauensbasierten Zugang („trusted access“) zu seinen leistungsfähigsten relevanten Modellen. Anthropic sagte Modellguthaben im Wert von bis zu 100 Millionen Pfund, vertrauensbasierten Modellzugang und dedizierten technischen Support („dedicated technical support“) zu.
Die in der Mitteilung dargelegten Zusagen der beiden Unternehmen bestehen nicht aus Barmitteln, sondern aus Guthaben, Modellzugang und technischer Unterstützung. Die Zusage von Anthropic ist mit der Einschränkung „bis zu“ („up to“) versehen. Die Regierung erklärte, sie erhoffe sich, dass das AIBL eine Institution werde, die sowohl öffentliche als auch philanthropische Mittel erhält, und wolle im Laufe der Zeit weitere Investitionen anziehen. Der Umfang und der Zeitplan zusätzlicher Mittel wurden nicht genannt.
Google DeepMind und Basecamp Research wurden ebenfalls als Partner aufgeführt. Das Cabinet Office gab bekannt, dass Google DeepMind gemeinsame Forschung betreiben und bestrebt sein wird („will look to provide“), vertrauensbasierten Zugang zu Gemini und spezialisierten wissenschaftlichen Modellen bereitzustellen. Basecamp Research gewährt Zugang zu seinen KI-Biologie-Modellen sowie technisches Fachwissen für vorrangige Biosicherheitsaufgaben. Für die Beiträge dieser beiden Partner wurden keine Geldbeträge genannt.
AIBL wird wie das AI Safety Institute als unabhängige gemeinnützige Institution geführt
Das AIBL wird als unabhängige gemeinnützige Institution betrieben. Das Cabinet Office erläuterte, dass das Institut bei der Gewinnung von Talenten und der operativen Autonomie dem „AI Security Institute ähnelt (Similar to the AI Security Institute)“. Gründungsziel ist es, Großbritannien zu einer weltweit führenden Nation im Bereich der KI-gestützten Biosicherheit zu machen. Es wird ein wissenschaftlicher Beirat eingerichtet, an dem Persönlichkeiten aus Wissenschaft, Industrie und dem gemeinnützigen Sektor teilnehmen; Einzelheiten dazu „werden zu gegebener Zeit bekannt gegeben (will be set out in due course)“.
Die Mitteilung enthielt kein Gründungsdatum, keinen Standort, keine Angaben zur Zusammensetzung des Vorstands, keine Verantwortlichen und keine Berichts- oder Aufsichtsstrukturen gegenüber der Regierung. Auch der Zeitpunkt für die Bekanntgabe des wissenschaftlichen Beirats wurde nicht festgelegt. In der Ankündigung wurden zudem weder Minister noch Regierungsbeamte namentlich genannt oder zitiert.
Start in Kooperation mit Regierungsbehörden wie UKHSA und Dstl
Das Forschungslabor unterhält „starke und vertrauensvolle Partnerschaften (strong and trusted partnerships)“ mit staatlichen Stellen. Das AIBL startet als Teil der Nationalen KI-Biosicherheitsinitiative gemeinsam mit der britischen Agentur für Gesundheitssicherheit (UK Health Security Agency, UKHSA), der Animal and Plant Health Agency (APHA), dem Defence Science and Technology Laboratory (Dstl) und der Life-Sciences-Industrie. Mit der Regulierungsbehörde für Arzneimittel und Gesundheitsprodukte (Medicines and Healthcare products Regulatory Agency, MHRA) arbeitet es zusammen, um auf gesundheitliche Notlagen vorbereitet zu sein und Informationen für die Regulierung von KI-entwickelten Arzneimitteln bereitzustellen („inform the regulation of AI-designed medicines“).
Das Cabinet Office erklärte, man werde mit öffentlichen Einrichtungen, Universitäten, der Industrie und Frontier-KI-Unternehmen innerhalb und außerhalb Großbritanniens zusammenarbeiten. Ziel ist es, Fachwissen in Biosicherheit, Biowissenschaften und KI durch „vertiefte Forschungskooperationen (deep research collaborations)“ zu bündeln, um Fortschritte in der KI in praktische Werkzeuge zu überführen. Internationale Partnerländer oder ausländische Institutionen wurden in der Mitteilung nicht genannt.
Biosicherheitsstrategie von 2023 sah jährliche Investitionen von 1,5 Milliarden Pfund und Ziele bis 2030 vor
Das AIBL baut auf der britischen Biosicherheitsstrategie (Biological Security Strategy) auf. Diese Strategie, die am 12. Juni 2023 unter der Regierung von Rishi Sunak vom damaligen stellvertretenden Premierminister Oliver Dowden vorgestellt wurde, aktualisierte die Rahmenbedingungen von 2018 und gilt bis 2030. Die Regierung gab an, jährlich mehr als 1,5 Milliarden Pfund für die biologische Sicherheit aufzuwenden. Die Strategie umfasste ein vom National Situation Centre geleitetes „Biothreats Radar“, ein nationales Bioüberwachungsnetzwerk, mikrobiologische Forensikwerkzeuge zur Ermittlung der Herkunft biologischer Zwischenfälle sowie eine Biosicherheits-Taskforce im Cabinet Office. Auch die „100-Tage-Mission (100 Days Mission)“ zur Bereitstellung von Impfstoffen, Therapeutika und Diagnosegeräten innerhalb von 100 Tagen nach einem Krankheitsausbruch war enthalten – ein Ziel, das auf Zusagen des G7-Gipfels in Carbis Bay 2021 beruht. Der zuständige Minister wurde verpflichtet, dem Parlament jährlich über den Umsetzungsstand zu berichten.
Der damalige stellvertretende Premierminister Dowden sagte: „Covid war die größte friedenszeitliche Herausforderung seit einem Jahrhundert, und wir müssen gewissenhaft sein bei der Vorbereitung auf künftige Bedrohungen dieses Ausmaßes (Covid was the biggest peacetime challenge in a century, and we must be diligent in preparing for future threats on this scale)“. In der Pressemitteilung zur Ankündigung von 2023 wurde KI nicht erwähnt.
In derselben Pressemitteilung erklärte Dame Angela McLean, die damalige leitende wissenschaftliche Beraterin der Regierung, die COVID-19-Pandemie habe gezeigt, wie wichtig ein kohärenter Plan sei, um Großbritannien vor zunehmend komplexen biologischen Risiken zu schützen und auf den Stärken in der Impfstoff-F&E sowie der Life-Sciences-Branche aufzubauen. Dame Jenny Harries, damalige Chefin der UKHSA, betonte, die Strategie verschaffe dem Land eine „starke Ausgangsposition (a strong position)“ zur Bewältigung künftiger Gefahren, und kündigte an, gemeinsam mit dem Ministerium für Umwelt, Ernährung und ländlichen Raum (Defra) ein nationales Bioüberwachungsnetzwerk aufzubauen und die 100-Tage-Mission umzusetzen. Cassidy Nelson, Leiterin für Biosicherheitspolitik beim Centre for Long-Term Resilience, einem Thinktank, begrüßte die Ziele für 2030, wies jedoch darauf hin, dass eine „dauerhafte Bereitstellung von Ressourcen und Prioritätensetzung (sustained resourcing and prioritisation)“ erforderlich sei.