英(영), 'AI 바이오안보연구소' 세운다…정부 1억·오픈AI·앤트로픽 최대 2억파운드
영국
영국 내각부(Cabinet Office)가 24일(현지시간) 프런티어 AI를 활용해 생물학적 위협을 이해·예방·탐지·대응하는 독립 비영리기관 'AI 바이오안보연구소(AI Biosecurity Lab·AIBL)'를 세운다고 발표했다. 정부가 1억파운드를 내고 프런티어 AI 기업 오픈AI와 앤트로픽이 최대 2억파운드를 약정해 재원은 최대 3억파운드다. 내각부는 AIBL을 "세계 최초의 AI 바이오안보 전담 조직(the world's first dedicated AI biosecurity organisation)"이라고 소개했다. 연구소는 '국가 AI 바이오안보 이니셔티브(National AI Biosecurity Initiative)'의 하나로 출범하며, 첫 과제는 신종 생물학적 위협의 조기 탐지와 백신·치료제 개발 가속이다.
내각부는 AI가 생물학 위험 지형을 바꾸고 있다고 진단해
내각부는 발표문 첫머리에서 AI가 과학적 기회를 만들면서도 생물학적 위험 지형을 바꾸고 있다(changing the biological risk landscape)고 밝혔다. AI가 연구를 앞당기고 질병 이해를 넓힐 수 있지만, 갈수록 성능이 높아지는 AI 시스템이 새로운 생물학적 위험을 만들고 해로운 활동의 문턱을 낮출 수 있다(could lower barriers to harmful activity)는 설명이다. 정부는 AI의 이점을 누리면서 생물학적 회복력을 함께 키우겠다며 AIBL 설립을 국가 이니셔티브의 한 축으로 내놓았다.
연구소의 임무는 프런티어 AI를 활용해 생물안보를 강화하는 것이다. 내각부는 프런티어 AI 인재와 생물과학 인재를 한데 모아 위협을 이해하고 막고 찾아내고 대응하는 실용적 역량을 만들겠다고 했다. 연구 대상에는 AI가 가능하게 하는 위험을 포함한 "광범위한 생물학적 위험(a wide range of biological risks)"이 들어간다. 연구 성과는 영국뿐 아니라 세계의 회복력 강화에 쓰겠다는 것이 정부 설명이다.
초기 과제는 두 갈래다. 하나는 새로 나타나는 생물학적 위협을 더 일찍 찾아내는 것(Enhance early detection of emerging biological threats)이고, 다른 하나는 백신·치료제와 그 밖의 의료 대응수단 개발을 앞당기는 것이다. 내각부는 AIBL이 영국 국가 생물안보 센터들을 비롯한 협력 기관을 지원한다고 밝혔다.
정부 돈은 1억파운드, 기업 약정 2억파운드는 크레딧 위주로 짜여
재원 구성은 정부 출연과 기업 약정으로 나뉜다. 정부는 1억파운드를 낸다. 기업 몫 최대 2억파운드는 프런티어 AI 기업 두 곳이 약정했다. 오픈AI는 1억파운드어치 컴퓨팅·모델 크레딧을 내고, 자사 '로절린드 바이오디펜스(Rosalind Biodefense)' 프로그램을 통해 가장 성능이 높은 관련 모델에 대한 신뢰 기반 접근(trusted access)을 제공한다. 앤트로픽은 최대 1억파운드어치 모델 크레딧과 신뢰 기반 모델 접근, 전담 기술 지원(dedicated technical support)을 약정했다.
발표문에 적힌 두 회사의 약정은 현금이 아니라 크레딧과 모델 접근권, 기술 지원이다. 앤트로픽 약정에는 '최대(up to)'라는 단서가 붙었다. 정부는 AIBL이 공공 재원과 자선 재원을 함께 받는 기관이 되기를 바란다며 시간이 지나면서 투자를 더 끌어오겠다고 했다. 추가 재원의 규모와 시기는 밝히지 않았다.
구글 딥마인드와 베이스캠프 리서치(Basecamp Research)도 협력사로 이름을 올렸다. 내각부는 구글 딥마인드가 공동 연구를 하고 제미나이(Gemini)와 특화 과학 모델에 대한 신뢰 기반 접근 제공을 추진한다(will look to provide)고 밝혔다. 베이스캠프 리서치는 자사 AI-생물학 모델에 대한 접근권과 우선 생물안보 과제에 필요한 기술 전문성을 제공한다. 두 곳의 기여에는 금액이 붙지 않았다.
AIBL은 AI안보연구소처럼 독립 비영리기관으로 운영돼
AIBL은 독립 비영리기관으로 운영된다. 내각부는 인재를 끌어들이고 운영 자율성을 갖춘다는 점에서 연구소가 "AI안보연구소와 비슷하다(Similar to the AI Security Institute)"고 설명했다. 영국을 AI 기반 생물안보 분야의 세계 선도국으로 만들겠다는 것이 설립 취지다. 학계·산업계·제3섹터 인사가 참여하는 과학자문위원회를 두며, 세부 사항은 "추후 공개(will be set out in due course)"한다.
발표문에는 연구소 출범일, 소재지, 이사회 구성, 책임자, 정부에 대한 보고·감독 체계가 없다. 과학자문위원회 공개 시점도 정하지 않았다. 발표문에 이름과 발언이 실린 장관이나 공무원도 없다.
보건안보청·국방과학기술연구소 등 정부 기관과 손잡고 출범해
연구소는 정부 기관과 "강력하고 신뢰할 수 있는 협력 관계(strong and trusted partnerships)"를 유지한다. AIBL은 영국 보건안보청(UKHSA), 동식물보건청(APHA), 국방과학기술연구소(Dstl), 생명과학 업계와 함께 국가 AI 바이오안보 이니셔티브의 일부로 출범한다. 의약품·의료제품규제청(MHRA)과는 보건 비상사태에 대비하고 AI가 설계한 의약품 규제에 필요한 정보를 제공하는 일(inform the regulation of AI-designed medicines)을 함께한다.
내각부는 공공기관, 대학, 산업계, 프런티어 AI 기업과 영국 안팎에서 협력하겠다고 했다. 생물안보·생명과학·AI 전문성을 "깊이 있는 공동 연구(deep research collaborations)"로 묶어 AI 발전을 실제 도구로 바꾸겠다는 구상이다. 국제 협력 상대국이나 해외 기관 이름은 발표문에 없다.
2023년 생물안보전략은 연 15억파운드 투입과 2030년 목표를 내걸어
AIBL은 영국 생물안보전략(Biological Security Strategy) 위에 세워진다. 리시 수낵 정부 시절인 2023년 6월 12일 올리버 다우든 당시 부총리가 발표한 이 전략은 2018년 체계를 갱신해 2030년까지를 대상으로 한다. 정부는 생물안보에 해마다 15억파운드가 넘는 돈을 쓰고 있다고 밝혔다. 전략에는 국가상황센터가 이끄는 '생물위협 레이더(Biothreats Radar)', 국가 생물감시망, 생물 사건의 출처를 가리는 미생물 법의학 도구, 내각부 생물안보 태스크포스가 담겼다. 발병 뒤 100일 안에 백신·치료제·진단기기를 내놓는 '100일 임무'도 포함됐다. 2021년 G7 카비스베이 정상회의 공약에서 나온 목표다. 주무 장관은 해마다 의회에 이행 상황을 보고하도록 했다.
다우든 당시 부총리는 "코로나는 한 세기 만의 가장 큰 평시 도전이었고, 이 규모의 미래 위협에 대비하는 데 성실해야 한다(Covid was the biggest peacetime challenge in a century, and we must be diligent in preparing for future threats on this scale)"고 말했다. 2023년 발표 보도자료에는 AI에 대한 언급이 없었다.
같은 보도자료에서 앤절라 매클린 당시 정부 수석과학고문은 "코로나19 대유행은 갈수록 복잡해지는 생물학적 위험에서 영국을 지키고 백신 연구개발과 생명과학 분야의 강점을 살릴 일관된 계획이 얼마나 중요한지 보여 줬다"고 말했다. 제니 해리스 당시 영국 보건안보청장은 전략이 미래 위협에 대응할 "강한 위치(a strong position)"를 마련해 준다며, 환경식품농무부(DEFRA)와 함께 국가 생물감시망을 만들고 100일 임무를 이행하겠다고 했다. 민간 연구기관 장기회복력센터의 캐시디 넬슨 생물안보정책 책임자는 2030년 목표를 환영하면서도 "지속적인 재원 확보와 우선순위 부여(sustained resourcing and prioritisation)"가 필요하다고 지적했다.