בריטניה תקים "מעבדת ביטחון ביולוגי של AI"... 100 מיליון ליש"ט מהממשלה, עד 200 מיליון ליש"ט מ-OpenAI ומ-Anthropic

בריטניה

משרד הקבינט הבריטי (Cabinet Office) הודיע ב-24 בחודש (שעון מקומי) על הקמת "המעבדה לביו-ביטחון מבוסס בינה מלאכותית" (AI Biosecurity Lab, או AIBL), מוסד עצמאי ללא כוונת רווח שנועד להבין איומים ביולוגיים, למנוע אותם, לזהותם ולהגיב אליהם באמצעות frontier AI. עם 100 מיליון ליש"ט שהקצתה הממשלה והתחייבויות של עד 200 מיליון ליש"ט מחברות ה-frontier AI המובילות OpenAI ו-Anthropic, עומד סך המימון על עד 300 מיליון ליש"ט. משרד הקבינט הציג את AIBL בתור "ארגון הביו-ביטחון הייעודי הראשון בעולם המבוסס בינה מלאכותית" (the world's first dedicated AI biosecurity organisation). המעבדה מושקת במסגרת "יוזמת הביו-ביטחון הלאומית בבינה מלאכותית" (National AI Biosecurity Initiative), ויעדיה הראשונים הם גילוי מוקדם של איומים ביולוגיים מתעוררים והאצת פיתוח חיסונים וטיפולים רפואיים.

משרד הקבינט מעריך כי הבינה המלאכותית משנה את מפת הסיכונים הביולוגיים

בפתח הודעתו ציין משרד הקבינט כי לצד ההזדמנויות המדעיות שהיא מייצרת, הבינה המלאכותית "משנה את מפת הסיכונים הביולוגיים" (changing the biological risk landscape). הוסבר כי אף שהבינה המלאכותית יכולה להאיץ את המחקר ולהרחיב את ההבנה של מחלות, מערכות AI בעלות יכולות הולכות וגוברות עלולות לייצר סיכונים ביולוגיים חדשים ו-"להנמיך את החסמים לפעילות מזיקה" (could lower barriers to harmful activity). הממשלה הציגה את הקמת AIBL כנדבך מרכזי ביוזמה לאומית לבניית חוסן ביולוגי במקביל למיצוי יתרונות ה-AI.

משימתה של המעבדה היא לחזק את הביו-ביטחון באמצעות frontier AI. משרד הקבינט מסר כי יפגיש בין מומחי בינה מלאכותית מהשורה הראשונה לבין מומחי מדעי החיים כדי לבנות יכולות מעשיות להבנה, מניעה, זיהוי ותגובה לאיומים. יעדי המחקר כוללים "מגוון רחב של סיכונים ביולוגיים" (a wide range of biological risks), ובכלל זה סיכונים המתאפשרים באמצעות בינה מלאכותית. לפי הסבר הממשלה, תוצרי המחקר ישמשו לחיזוק החוסן לא רק בבריטניה אלא ברחבי העולם כולו.

המשימות הראשוניות מתמקדות בשני צירים: האחד הוא "שיפור הזיהוי המוקדם של איומים ביולוגיים מתעוררים" (Enhance early detection of emerging biological threats), והשני הוא האצת הפיתוח של חיסונים, טיפולים ואמצעי מענה רפואיים נוספים. משרד הקבינט ציין כי AIBL תתמוך בארגונים שותפים, ובכללם מרכזי הביו-ביטחון הלאומיים של בריטניה.

מימון ממשלתי של 100 מיליון ליש"ט; התחייבויות החברות בסך 200 מיליון ליש"ט מבוססות בעיקר על זיכויים

מבנה המימון מתחלק בין הקצאה ממשלתית להתחייבויות של חברות. הממשלה מעבירה 100 מיליון ליש"ט. חלקן של החברות, בהיקף של עד 200 מיליון ליש"ט, מגיע משתי חברות frontier AI: חברת OpenAI תספק זיכויי מחשוב ומודלים בשווי 100 מיליון ליש"ט, ותעניק "גישה מהימנה" (trusted access) למודלים הרלוונטיים המתקדמים ביותר שלה דרך תוכנית "Rosalind Biodefense". חברת Anthropic התחייבה לעד 100 מיליון ליש"ט בזיכויי מודלים, גישה מהימנה למודלים ו-"תמיכה טכנית ייעודית" (dedicated technical support).

התחייבויות שתי החברות המפורטות בהודעה אינן בכסף מזומן, אלא בזיכויים, גישה למודלים ותמיכה טכנית. להתחייבות של Anthropic צורף הסייג "עד" (up to). הממשלה ציינה כי היא שואפת ש-AIBL יהיה מוסד הנתמך במימון ציבורי ופילנתרופי גם יחד, וכי תפעל למשיכת השקעות נוספות בהמשך. היקפו של המימון הנוסף ומועדו לא נמסרו.

גוגל דיפמיינד (Google DeepMind) ו-Basecamp Research צוינו אף הן כשותפות. משרד הקבינט מסר כי Google DeepMind תבצע מחקר משותף ו-"תבחן מתן" (will look to provide) גישה מהימנה ל-Gemini ולמודלים מדעיים ייעודיים. חברת Basecamp Research תספק גישה למודלי ה-AI הביולוגיים שלה ומומחיות טכנית עבור אתגרי ביו-ביטחון בעדיפות גבוהה. תרומתם של שני הגופים הללו לא לוותה בנקוב כספי.

מעבדת AIBL תפעל כמוסד עצמאי ללא כוונת רווח, בדומה למכון לבטיחות בינה מלאכותית

מעבדת AIBL תפעל כמוסד עצמאי ללא כוונת רווח. משרד הקבינט הסביר כי בכל הנוגע למשיכת כישרונות ולשמירה על אוטונומיה תפעולית, המעבדה "דומה למכון לבטיחות בינה מלאכותית" (Similar to the AI Security Institute). מטרת הקמתה היא למצב את בריטניה כמובילה עולמית בתחום הביו-ביטחון המבוסס בינה מלאכותית. למעבדה תוקם ועדה מייעצת מדעית בהשתתפות נציגים מהאקדמיה, מהתעשייה ומהמגזר השלישי, כאשר הפרטים "יפורסמו בבוא העת" (will be set out in due course).

ההודעה לא כללה תאריך השקה, מיקום, את הרכב הדירקטוריון, זהות ההנהלה, או מנגנוני דיווח ופיקוח מול הממשלה. כמו כן, לא נקבע לוח זמנים לחשיפת הוועדה המייעצת המדעית. בהודעה אף לא צוינו או צוטטו שרים או עובדי מדינה כלשהם.

השקה בשיתוף גופים ממשלתיים, בהם סוכנות ביטחון הבריאות והמעבדה למדע וטכנולוגיה של הביטחון

המעבדה תקיים "שותפויות חזקות ומהימנות" (strong and trusted partnerships) עם גורמי ממשל. AIBL מושקת כחלק מיוזמת הביו-ביטחון הלאומית בבינה מלאכותית, לצד סוכנות ביטחון הבריאות של בריטניה (UKHSA), הסוכנות לבריאות בעלי חיים וצמחים (APHA), המעבדה למדע וטכנולוגיה של הביטחון (Dstl) ותעשיית מדעי החיים. יחד עם הסוכנות לפיקוח על תרופות ומוצרי בריאות (MHRA), היא תשתף פעולה בהיערכות למצבי חירום בריאותיים וכן במתן מידע שיסייע ל-"אסדרת תרופות שתוכננו בבינה מלאכותית" (inform the regulation of AI-designed medicines).

משרד הקבינט מסר כי ישתף פעולה עם גופים ציבוריים, אוניברסיטאות, התעשייה וחברות frontier AI הן בתוך בריטניה והן ברמה הבינלאומית. התוכנית היא לחבר מומחיות בביו-ביטחון, מדעי החיים ובינה מלאכותית באמצעות "שיתופי פעולה מחקריים מעמיקים" (deep research collaborations) כדי לתרגם את התקדמות ה-AI לכלים מעשיים. שמותיהן של מדינות שותפות בינלאומיות או מוסדות זרים לא צוינו בהודעה.

אסטרטגיית הביו-ביטחון של 2023 קבעה השקעה שנתית של 1.5 מיליארד ליש"ט ויעדים לשנת 2030

מעבדת AIBL מוקמת על בסיס אסטרטגיית הביו-ביטחון של בריטניה (Biological Security Strategy). אסטרטגיה זו, שהוכרזה ב-12 ביוני 2023 בתקופת ממשלתו של רישי סונאק על ידי סגן ראש הממשלה דאז אוליבר דאודן, עדכנה את המסגרת מ-2018 ומכוונת לשנת 2030. הממשלה ציינה כי היא משקיעה יותר מ-1.5 מיליארד ליש"ט מדי שנה בתחום הביו-ביטחון. האסטרטגיה כללה "מכ"ם איומים ביולוגיים" (Biothreats Radar) בהובלת מרכז המצב הלאומי (National Situation Centre), רשת לאומית למעקב ביולוגי, כלים פורנזיים מיקרוביאליים לקביעת מקורם של אירועים ביולוגיים, וכוח משימה לביו-ביטחון במשרד הקבינט. כמו כן נכללה בה "משימת 100 הימים" (100 Days Mission) להשקת חיסונים, תרופות ואמצעי אבחון בתוך 100 ימים מפרוץ התפרצות – יעד שמקורו בהתחייבויות ועידת ה-G7 בקרביס ביי בשנת 2021. השר הממונה חויב לדווח לפרלמנט מדי שנה על התקדמות היישום.

סגן ראש הממשלה דאז דאודן אמר: "הקורונה הייתה האתגר הגדול ביותר בעת שלום מזה מאה שנה, ועלינו להקפיד ולהיערך לאיומים עתידיים בסדר גודל כזה" (Covid was the biggest peacetime challenge in a century, and we must be diligent in preparing for future threats on this scale). בהודעה לעיתונות שפורסמה ב-2023 לא הוזכרה כלל בינה מלאכותית.

באותה הודעה לעיתונות, אנג'לה מקלין, היועצת המדעית הראשית לממשלה דאז, אמרה כי מגפת הקורונה המחישה את החשיבות החיונית של תוכנית עקבית להגנה על בריטניה מפני סיכונים ביולוגיים מורכבים יותר ויותר, ולמינוף החוזקות בתחומי המחקר והפיתוח של חיסונים ומדעי החיים. ג'ני האריס, מנכ"לית סוכנות ביטחון הבריאות הבריטית דאז, ציינה כי האסטרטגיה מעניקה למדינה "עמדה חזקה" (a strong position) להתמודדות עם איומים עתידיים, והוסיפה כי הסוכנות תפעל יחד עם המחלקה לאיכות הסביבה, מזון וענייני כפר (Defra) להקמת רשת לאומית למעקב ביולוגי ולמימוש משימת 100 הימים. קאסידי נלסון, ראש תחום מדיניות ביו-ביטחון במרכז לחוסן לטווח ארוך (Centre for Long-Term Resilience), מכון מחקר עצמאי, בירכה על יעדי 2030 אך הדגישה כי יידרשו "הקצאת משאבים ותעדוף מתמשכים" (sustained resourcing and prioritisation).