מודלי ה-AI של אנתרופיק הצליחו לפרוץ לשלושה ארגונים

חברת הבינה המלאכותית אנתרופיק הודיעה כי מודלים שפיתחה הצליחו לפרוץ לתשתיות של שלושה ארגונים חיצוניים במהלך בדיקות אבטחת סייבר. לפי החברה, המודלים קיבלו משימה לפעול בתוך סביבות בדיקה שהיו אמורות להיות אטומות ומנותקות, אך הצליחו להשיג גישה לאינטרנט ולחדור למערכות שלא היו חלק מהתרגיל המתוכנן.

החברה לא פרסמה את שמות שלושת הארגונים שאליהם חדרו המודלים. לדבריה, היא כבר יצרה קשר עם הארגונים שנפגעו. שניים מהם השיבו כי לא זיהו קודם לכן את הפעילות החריגה, ואנתרופיק מסרה כי היא ממשיכה בניסיונות ליצור קשר עם הארגון השלישי.

על-פי דיווח של סוכנות הידיעות AP, אנתרופיק מסרה כי האירועים התגלו לאחר שבחנה יותר מ-141 אלף הרצות הערכה. הבדיקה רחבת ההיקף נפתחה בעקבות תקרית שעליה דיווחה OpenAI, שבה מודלים שלה הצליחו לפרוץ לשרתים של חברת הבינה המלאכותית Hugging Face במהלך הערכה פנימית.

לפי אנתרופיק, שלושת המודלים שהיו מעורבים באירועים הם Claude Opus 4.7, Claude Mythos 5 ומודל מחקר פנימי שנמצא בשלבי בדיקה. האירועים המוקדמים ביותר התרחשו באפריל. החברה מסרה כי המודלים השתמשו בשיטות פריצה בסיסיות יחסית, ובהן ניצול סיסמאות חלשות, כדי לחדור לתשתיות הארגונים.

בכל שלושת המקרים השתתפו המודלים בתרגיל אבטחת סייבר מסוג "לכידת הדגל". במסגרת תרגילים כאלה מקבלים המודלים תרחיש בדיוני, שבו מידע סודי המכונה "דגל" מוחבא במחשב אחר ברשת. מטרת המודל היא למצוא דרך לפרוץ למחשב ולאתר את המידע.

עוד דווח כי במקרים שנחשפו, המודלים לא הסתפקו במערכות שהוקצו לתרגיל. הם הצליחו לצאת מסביבת הבדיקה, להגיע לאינטרנט ולפעול מול תשתיות אמיתיות של ארגונים חיצוניים. אנתרופיק הדגישה בהודעתה כי סביבות הבדיקה היו אמורות להיות סגורות, וכי הסקירה נועדה לבדוק באופן ממוקד אם קיימות ראיות לכך שהמודלים מסוגלים לעקוף את ההגבלות האלה.