Великобритания создаст «Лабораторию биобезопасности ИИ»: 100 млн фунтов от правительства, до 200 млн от OpenAI и Anthropic

Великобритания

Секретариат кабинета министров Великобритании (Cabinet Office) 24 числа (по местному времени) объявил о создании независимой некоммерческой организации «Лаборатория биобезопасности ИИ» (AI Biosecurity Lab, AIBL), призванной использовать передовой ИИ для понимания, предотвращения, выявления биологических угроз и реагирования на них. Правительство выделит 100 млн фунтов стерлингов, а разработчики передового ИИ OpenAI и Anthropic обязались предоставить до 200 млн фунтов стерлингов, в результате чего общий объем финансирования составит до 300 млн фунтов стерлингов. Секретариат кабинета министров охарактеризовал AIBL как «первую в мире специализированную организацию по биобезопасности ИИ» (the world's first dedicated AI biosecurity organisation). Лаборатория создается в рамках Национальной инициативы по биобезопасности ИИ (National AI Biosecurity Initiative), а ее первыми задачами станут раннее выявление новых биологических угроз и ускорение разработки вакцин и терапевтических средств.

В Секретариате кабинета министров считают, что ИИ меняет ландшафт биологических рисков

В начале своего заявления Секретариат кабинета министров отметил, что ИИ, создавая научные возможности, в то же время «меняет ландшафт биологических рисков» (changing the biological risk landscape). Поясняется, что хотя ИИ способен ускорить исследования и углубить понимание болезней, все более мощные системы ИИ могут создавать новые биологические риски и «снизить барьеры для вредоносной деятельности» (could lower barriers to harmful activity). Правительство представило создание AIBL как ключевой элемент национальной инициативы, направленной на укрепление биологической устойчивости наряду с использованием преимуществ ИИ.

Задача лаборатории — укрепление биобезопасности с помощью передового ИИ. Секретариат кабинета министров заявил, что объединит специалистов по передовому ИИ и экспертов в области биологических наук для создания практического потенциала по пониманию, предотвращению, выявлению угроз и реагированию на них. Предмет исследований охватывает «широкий спектр биологических рисков» (a wide range of biological risks), включая угрозы, обусловленные возможностями ИИ. По заявлению правительства, результаты исследований будут использоваться для укрепления устойчивости не только Великобритании, но и всего мира.

Первоначальные задачи разделены на два направления. Первое — «улучшение раннего выявления возникающих биологических угроз» (Enhance early detection of emerging biological threats), а второе — ускорение разработки вакцин, терапевтических средств и других медицинских мер противодействия. В Секретариате кабинета министров сообщили, что AIBL окажет поддержку партнерским организациям, включая Национальные центры биобезопасности Великобритании.

Вклад правительства составит 100 млн фунтов, обязательства компаний на 200 млн фунтов сформированы преимущественно из кредитов

Структура финансирования складывается из государственных ассигнований и корпоративных обязательств. Правительство выделяет 100 млн фунтов стерлингов. Корпоративную долю в объеме до 200 млн фунтов стерлингов обязались предоставить две компании-разработчика передового ИИ. OpenAI предоставит вычислительные кредиты и кредиты на модели на сумму 100 млн фунтов стерлингов, а также обеспечит «доверенный доступ» (trusted access) к своим самым эффективным профильным моделям в рамках собственной программы Rosalind Biodefense. Anthropic обязалась предоставить кредиты на использование моделей на сумму до 100 млн фунтов стерлингов, доверенный доступ к моделям и «выделенную техническую поддержку» (dedicated technical support).

Обязательства обеих компаний, указанные в заявлении, представляют собой не денежные средства, а кредиты, доступ к моделям и техническую поддержку. В обязательстве Anthropic присутствует оговорка «до» (up to). Правительство выразило надежду, что AIBL станет организацией, финансируемой как из государственных, так и из благотворительных источников, и заявило, что со временем будет привлекать дополнительные инвестиции. Объем и сроки дополнительного финансирования не раскрываются.

В качестве партнеров были названы также Google DeepMind и Basecamp Research. Секретариат кабинета министров сообщил, что Google DeepMind примет участие в совместных исследованиях и «намерена предоставить» (will look to provide) доверенный доступ к Gemini и специализированным научным моделям. Basecamp Research предоставит доступ к своим биологическим моделям ИИ и техническую экспертизу по приоритетным задачам биобезопасности. Финансовая оценка вклада обеих организаций не приводилась.

AIBL будет действовать как независимая некоммерческая организация по образцу Института безопасности ИИ

AIBL будет функционировать как независимая некоммерческая организация. В Секретариате кабинета министров пояснили, что лаборатория «похожа на Институт безопасности ИИ» (Similar to the AI Security Institute) с точки зрения привлечения специалистов и операционной автономии. Цель учреждения — сделать Великобританию мировым лидером в сфере биобезопасности на основе ИИ. Будет создан Научно-консультативный совет с участием представителей науки, промышленности и третьего сектора; подробности «будут представлены в надлежащее время» (will be set out in due course).

В заявлении отсутствуют сведения о дате запуска лаборатории, ее местонахождении, составе совета директоров, руководстве, а также о механизмах отчетности и надзора перед правительством. Сроки создания Научно-консультативного совета также не определены. Ни один министр или государственный служащий в тексте заявления не назван и не процитирован.

Запуск в партнерстве с государственными учреждениями, включая Агентство по безопасности в области здравоохранения и Лабораторию оборонной науки и техники

Лаборатория будет поддерживать «прочные и доверительные партнерские отношения» (strong and trusted partnerships) с государственными структурами. AIBL начинает работу в рамках Национальной инициативы по биобезопасности ИИ совместно с Агентством по безопасности в области здравоохранения Великобритании (UKHSA), Агентством по здоровью животных и растений (APHA), Лабораторией оборонной науки и техники (Dstl) и предприятиями медико-биологической отрасли. С Агентством по регулированию лекарственных средств и изделий медицинского назначения (MHRA) планируется совместная работа по обеспечению готовности к чрезвычайным ситуациям в здравоохранении и «предоставлению данных для регулирования лекарств, созданных с применением ИИ» (inform the regulation of AI-designed medicines).

Секретариат кабинета министров заявил о намерении сотрудничать с государственными ведомствами, университетами, промышленным сектором и компаниями в сфере передового ИИ как в Великобритании, так и за ее пределами. Замысел состоит в том, чтобы объединить экспертизу в области биобезопасности, медико-биологических наук и ИИ посредством «глубокого исследовательского сотрудничества» (deep research collaborations), превратив достижения ИИ в практические инструменты. Названия стран-партнеров или зарубежных организаций в заявлении не упоминаются.

Стратегия биобезопасности 2023 года предусматривает ежегодные инвестиции в размере 1,5 млрд фунтов и цели до 2030 года

AIBL создается на основе Стратегии биологической безопасности Великобритании (Biological Security Strategy). Обнародованная 12 июня 2023 года тогдашним заместителем премьер-министра Оливером Доуденом при правительстве Риши Сунака, эта стратегия обновила структуру 2018 года и рассчитана на период до 2030 года. Правительство заявило, что ежегодно выделяет на биобезопасность более 1,5 млрд фунтов стерлингов. В стратегию вошли «Радар биоугроз» (Biothreats Radar) под руководством Национального ситуационного центра, национальная сеть бионадзора, методы микробной криминалистики для установления источников биологических инцидентов и целевая группа по биобезопасности при Секретариате кабинета министров. В нее также была включена «Миссия 100 дней» по выпуску вакцин, терапевтических средств и диагностических систем в течение 100 дней после начала вспышки заболевания — цель, сформулированная в обязательствах саммита G7 в Карбис-Бей в 2021 году. Профильному министру поручено ежегодно отчитываться перед парламентом о ходе реализации.

Тогдашний вице-премьер Доуден заявил: «COVID стал крупнейшим вызовом мирного времени за столетие, и мы должны со всей ответственностью готовиться к будущим угрозам такого масштаба» (Covid was the biggest peacetime challenge in a century, and we must be diligent in preparing for future threats on this scale). В пресс-релизе 2023 года об ИИ не упоминалось.

В том же пресс-релизе тогдашний главный научный советник правительства Анджела Маклин заявила, что пандемия COVID-19 показала крайнюю важность последовательного плана по защите Великобритании от все более сложных биологических рисков и использованию преимуществ страны в сфере исследований и разработок вакцин и медико-биологических наук. Тогдашний исполнительный директор UKHSA Дженни Харрис отметила, что стратегия обеспечивает «прочные позиции» (a strong position) для противодействия будущим угрозам, и добавила, что агентство совместно с Министерством окружающей среды, продовольствия и сельского хозяйства (DEFRA) займется созданием национальной сети бионадзора и выполнением «Миссии 100 дней». Руководитель направления политики биобезопасности в аналитическом Центре долгосрочной устойчивости Кэссиди Нельсон приветствовала цели до 2030 года, однако подчеркнула, что необходимы «постоянное ресурсное обеспечение и приоритезация» (sustained resourcing and prioritisation).