英國將設立「AI生物安全實驗室」…政府1億、OpenAI與Anthropic最高2億英鎊

英國
英國內閣辦公室(Cabinet Office)於當地時間24日宣布,將成立獨立非營利機構「AI生物安全實驗室(AI Biosecurity Lab,AIBL)」,運用前沿AI來理解、預防、偵測並因應生物威脅。英國政府出資1億英鎊,前沿AI企業OpenAI與Anthropic則承諾投入最高2億英鎊,使總資金規模達到最高3億英鎊。內閣辦公室介紹AIBL為「全球首個專責AI生物安全機構(the world's first dedicated AI biosecurity organisation)」。該實驗室作為「國家AI生物安全倡議(National AI Biosecurity Initiative)」的一環正式啟動,首要任務是新興生物威脅的早期偵測,以及加速疫苗與治療藥物的研發。
內閣辦公室評估AI正在改變生物風險格局
內閣辦公室在聲明開頭指出,AI在創造科學機遇的同時,也正在改變生物風險格局(changing the biological risk landscape)。說明表示,儘管AI能加速研究並深化對疾病的理解,但能力日益強大的AI系統可能會帶來新型生物風險,並「降低有害活動的門檻(could lower barriers to harmful activity)」。政府表示將在獲取AI效益的同時提升生物韌性,並將設立AIBL作為國家倡議的核心支柱。
該實驗室的使命是利用前沿AI強化生物安全。內閣辦公室表示,將匯集前沿AI人才與生物科學人才,建立理解、預防、偵測和因應威脅的實用能力。研究對象涵蓋包含AI衍生的風險在內的「廣泛生物風險(a wide range of biological risks)」。政府說明,研究成果不僅將用於英國,也將用於強化全球的韌性。
初期任務分為兩大方向。其一是「加強新興生物威脅的早期偵測(Enhance early detection of emerging biological threats)」,其二是加速研發疫苗、治療藥物與其他醫療應對措施。內閣辦公室表示,AIBL將支援包含英國國家生物安全中心在內的合作機構。
政府出資1億英鎊,企業承諾的2億英鎊以額度為主構成
資金結構分為政府出資與企業承諾。政府出資1億英鎊。企業負擔的最高2億英鎊則由兩家前沿AI公司承諾提供。OpenAI將提供價值1億英鎊的運算與模型額度,並透過其「羅莎琳德生物防禦(Rosalind Biodefense)」計畫,為其性能最強大的相關模型提供「受信任存取權(trusted access)」。Anthropic則承諾提供最高1億英鎊的模型額度、受信任模型存取權以及「專屬技術支援(dedicated technical support)」。
聲明中所載兩家公司的承諾並非現金,而是額度、模型存取權與技術支援。Anthropic的承諾附有「最高(up to)」的前提。政府表示期盼AIBL成為兼獲公共資金與慈善資金支援的機構,未來將吸引更多投資。不過,政府並未透露追加資金的規模與時程。
Google DeepMind與Basecamp Research也名列合作夥伴。內閣辦公室表示,Google DeepMind將展開共同研究,並推動提供(will look to provide)對Gemini及專用科學模型的受信任存取權。Basecamp Research則將提供其AI生物學模型的存取權,以及優先生物安全任務所需的技術專業知識。兩家機構的貢獻均未標明具體金額。
AIBL將比照AI安全研究所作為獨立非營利機構運作
AIBL將作為獨立非營利機構運作。內閣辦公室說明,在吸引人才和具備營運自主性方面,該實驗室「類似於AI安全研究所(Similar to the AI Security Institute)」。其設立宗旨是使英國成為AI驅動生物安全領域的全球領導者。實驗室將設立由學界、產業界與第三部門人士組成的科學顧問委員會,詳細內容將「於適當時間公布(will be set out in due course)」。
聲明中並未包含實驗室的啟動日期、所在地、董事會組成、負責人,以及對政府的呈報與監督機制。亦未指定科學顧問委員會的公布時程。聲明中也沒有出現任何具名或發表談話的部長或公務員。
攜手衛生安全局、國防科技實驗室等政府機構共同啟動
該實驗室將與政府機構維持「強大且值得信賴的合作夥伴關係(strong and trusted partnerships)」。AIBL將與英國衛生安全局(UKHSA)、動植物衛生局(APHA)、國防科技實驗室(Dstl)以及生命科學業界共同作為國家AI生物安全倡議的一環啟動。該機構亦將與藥品和醫療產品監管署(MHRA)合作,為公共衛生緊急事件做好準備,並為AI設計藥物的監管提供資訊(inform the regulation of AI-designed medicines)。
內閣辦公室表示,將在英國國內外與公共機構、大學、產業界及前沿AI企業展開合作。其構想是透過「深度共同研究(deep research collaborations)」結合生物安全、生命科學與AI專業知識,將AI的進展轉化為實際工具。聲明中並未提及任何國際合作夥伴國家或海外機構的名稱。
2023年生物安全戰略提出每年投入15億英鎊與2030年目標
AIBL是建立在英國《生物安全戰略》(Biological Security Strategy)的基礎之上。該戰略由蘇納克(Rishi Sunak)政府時期的時任副首相陶敦(Oliver Dowden)於2023年6月12日公布,更新了2018年的架構,規劃期程至2030年。政府表示,每年在生物安全上的支出超過15億英鎊。該戰略涵蓋由國家形勢中心(National Situation Centre)主導的「生物威脅雷達(Biothreats Radar)」、國家生物監測網、用於判定生物事件來源的微生物法醫學工具,以及內閣辦公室生物安全專責小組。戰略中亦納入了在疫情爆發後100天內推出疫苗、治療藥物與診斷工具的「100天任務」,該目標源自2021年G7卡比斯灣高峰會的承諾。主管大臣並須每年向國會報告落實進度。
時任副首相陶敦表示:「新冠肺炎是本世紀和平時期面臨的最大挑戰,我們必須勤勉地為因應這種規模的未來威脅做好準備(Covid was the biggest peacetime challenge in a century, and we must be diligent in preparing for future threats on this scale)。」2023年發布的新聞稿中並未提及AI。
在同一份新聞稿中,時任政府首席科學顧問麥克林(Angela McLean)女爵士表示:「COVID-19大流行展現了具備連貫計畫以保護英國免受日益複雜的生物風險侵害,並發揮疫苗研發與生命科學領域優勢是多麼重要。」時任英國衛生安全局局長哈里斯(Jenny Harries)女爵士則表示,該戰略為應對未來威脅奠定了「有利地位(a strong position)」,並稱將與環境食品與鄉村事務部(Defra)共同建構國家生物監測網並落實100天任務。民間智庫「長期韌性中心(Centre for Long-Term Resilience)」生物安全政策主管納爾遜(Cassidy Nelson)雖對2030年目標表示歡迎,但也指出需要「持續的資源配置與優先事項排序(sustained resourcing and prioritisation)」。