אנתרופיק חסמה מדענים: המחקרים עלולים לסייע בפיתוח נשק ביולוגי

חברת הבינה המלאכותית אנתרופיק חשפה שורה של מקרים שבהם מדענים וחוקרים השתמשו במודלי קלוד לצורך מחקרים ביולוגיים רגישים, שחלקם עשויים לשמש לא רק לפיתוח תרופות וחיסונים אלא גם להפיכת נגיפים ורעלנים למסוכנים יותר. החברה חסמה חשבונות הקשורים לפעילות והחמירה את מנגנוני ההגנה שלה.

בדוח מודיעין איומים חדש שפרסמה אנתרופיק מתוארים חמישה מקרי בוחן בתחום הביולוגי. החברה מדגישה כי האנשים המעורבים הם מדענים פעילים וכי אין בידיה הוכחה שהם התכוונו לגרום נזק. דווקא משום שחלק ניכר מהמחקר הביולוגי המתקדם הוא "דו-שימושי", אותן שיטות עשויות לשמש מצד אחד לפיתוח תרופות וחיסונים ומצד שני לפיתוח גורמי מחלה ורעלנים מסוכנים.

שיפור יכולת ההדבקה של נגיף

אחד המקרים החמורים נחשף במאי 26'. מערכת הבטיחות של אנתרופיק חסמה בקשה לסיוע בכתיבת בקשת מענק למחקר בנגיף צ'יקונגוניה - נגיף המועבר באמצעות יתושים ועלול לגרום לחום ולכאבים קשים ומתמשכים. המחקר נועד לבחון שינויים גנטיים שישפיעו על יכולת ההעברה של הנגיף ועל יכולתו להתחמק ממערכת החיסון.

לפי אנתרופיק, התוכנית ביקשה לזהות שינויים המחזקים תכונות מסוימות בנגיף ולהחדיר אותם לגרסאות פעילות שלו. החוקרים התכוונו לבחור שוב ושוב את הגרסאות שגרמו למחלה קשה יותר בבעלי חיים. מחקר כזה עשוי לסייע בפיתוח חיסונים וטיפולים, אך באותה מידה עלול לספק ידע הדרוש ליצירת נגיף מסוכן יותר. החברה ציינה גם כי המחקר, אף שהוצג כעבודה של חוקרים אזרחיים, נועד להתבצע במכון מחקר צבאי.

הבדיקה העלתה כי החוקרים קיבלו גישה למודלי בינה מלאכותית באמצעות פלטפורמה מתווכת, שהעבירה את התעבורה דרך תשתית אמריקנית כדי לעקוף את חסימות הגישה של אנתרופיק במדינות שבהן החברה אינה מספקת שירות. לאחר שאנתרופיק חסמה את החשבונות וסייעה להשבית את מערך התיווך, המפעילים הצליחו להקים מחדש חלק ממנגנון הגישה בתוך ימים. בהמשך אף הוגדרה המערכת כך שבקשות שקלוד סירב להשיב עליהן יועברו למודלים של חברות אחרות בעלי מגבלות מקלות יותר.

שפעת העופות והחשש מנגיף מותאם לבני אדם

במקרה נוסף גילה צוות אנתרופיק חוקר שפעל במשך שבועות באמצעות קלוד במחקר על שפעת עופות אלימה. העבודה עסקה בהתאמת הנגיף ליונקים ובשינויים שעשויים להשפיע על יכולתו לעבור באוויר במודלים של בעלי חיים. לדברי החברה, מדובר בתחום בעל חשיבות רפואית ברורה, משום שהבנת השינויים הללו עשויה לסייע בזיהוי מוקדם של זן מגפתי המתפתח בטבע - אך אותו ידע יכול לשמש גם ליצירת זן כזה במכוון.

החוקר החליף עם קלוד אלפי הודעות והסתייע בו בתכנון המחקר, בניתוח נתונים ובבחירת ניסויים. מנגנוני הבטיחות מנעו ממנו להשתמש במודלים החזקים ביותר לצורך החלקים המסוכנים, ולכן עיקר הסיוע הגיע ממודלים חלשים יותר. אנתרופיק מעריכה כי התרומה המדעית של קלוד במקרה הזה הייתה מוגבלת יחסית, אולם לדבריה עצם האירוע מספק עדות לכך שחוקרים העוסקים במחקרים בעלי פוטנציאל מגפתי מנסים להשתמש במודלי בינה מלאכותית אמריקניים תוך עקיפת מגבלות הגישה.

קלוד כתב בקשת מחקר בתוך כשעה

מקרה שלישי ממחיש דווקא את מגבלות מערכות ההגנה. חשבון שהופעל דרך תשתית אנונימית ביקש סיוע במחקר על משפחת נגיפים הכוללת בין היתר את נגיף האבעבועות השחורות ואת נגיף אבעבועות הקוף. המחקר עסק במנגנונים שבהם נגיפים מתחמקים ממערכת החיסון.

לפי אנתרופיק, מודל Opus 5 ניסח בתוך כשעה בקשת מענק שלמה - מההשערה המדעית המרכזית ועד לתכנון הניסויים, המינונים, הניתוח הסטטיסטי והתוכניות למקרה שהניסוי לא יצליח. במקרה זה מערכת הסינון לא עצרה את העבודה, משום שהמחקר הוצג כמיועד להחלשת הנגיף. אלא שאותו ידע על מנגנוני התחמקות ממערכת החיסון יכול לשמש גם לשימורם או לחיזוקם.

גם רעלנים על הכוונת

בשני המקרים האחרים עסקו חוקרים ברעלנים ובחומרים שמקורם בבעלי חיים ארסיים. באחד מהם נעשה שימוש בקלוד כדי לבנות מאגר גדול של מולקולות שמקורן בארסים ולפתח מערכת שתתכנן גרסאות משופרות שלהן. המטרה המוצהרת הייתה רפואית - פיתוח משככי כאבים, תרופות נגד דיכאון וחומרים טיפוליים נוספים - אך המאגר כלל גם בסיס לתכנון חומרים בעלי השפעה משתקת. אנתרופיק מסרה כי המחקר היה חלק מתוכנית הנתמכת בידי מדינה.

במקרה החמישי נעזר חוקר בקלוד בתכנון ממוחשב מחדש של כמה רעלנים. במסגרת העבודה נכללו גם רכיבים של רעלן חיידקי וחלבון של נגיף קדחת דימומית הנמנה עם גורמי המחלה שארגון הבריאות העולמי מייחס להם חשש גבוה להתפרצויות ומגפות. החברה מצאה פרט חריג במיוחד: החוקר ביקש מקלוד לסייע בכתיבת דוחות התקדמות תוך הסתרה מכוונת של זהות הרעלן והחלבונים שנחקרו. שני החשבונות נחסמו.

35 מחקרים נבדקו בתוך חודש

הדוח מצביע על בעיה רחבה בהרבה מחמשת המקרים. בסריקה של פעילות במשך 30 יום בלבד בקרב מוסדות המזוהים עם מדינות יריבות איתרה אנתרופיק כ-35 מאמצי מחקר שונים. רובם היו מחקרים אזרחיים רגילים, אך חלקם נשאו פוטנציאל בולט לשימוש כפול.

אנתרופיק מדגישה כי המקרים אינם מוכיחים שאיום ביולוגי בסיוע בינה מלאכותית עומד להתממש בזמן הקרוב. החשש המרכזי הוא אחר: מדינות וגופי מחקר בעלי עניין בתחומים רגישים כבר מנסים לעקוף הגבלות גאוגרפיות, להשתמש בחשבונות מוסווים ולמצוא דרכים להתחמק ממנגנוני הסינון כדי לקבל גישה למודלים המתקדמים ביותר.

החברה הסיקה כי מסננים אוטומטיים לבדם אינם מספיקים. ככל שהמודלים מתקרבים לרמת ביצוע של מומחים במשימות מדעיות מורכבות, קשה יותר להבחין בין מחקר רפואי מועיל לבין מחקר שעשוי לשמש ליצירת איום. בעקבות הממצאים היא מקדמת שילוב של סינון תוכן מחמיר עם מתן גישה ליכולות הביולוגיות המתקדמות רק לחוקרים ולמוסדות שזהותם ומטרותיהם נבדקו מראש.