אמודאי, מנכ"ל אנתרופיק מטיל פצצה - "עצרו את הפיתוח לפני שכולנו נמות"

מנכ"ל אנתרופיק דריו אמודאי קורא לתעשיית הבינה המלאכותית להאט מיד את קצב הפיתוח של מודלים חדשים, ומתריע מסכנה מוחשית של אובדן שליטה. אמודי מזהיר כי סוכנים חכמים עלולים להשתלט על האינטרנט בתוך שישה חודשים ולגרום נזקים קטסטרופליים.

במסמך חריף בן 3,800 מילים שפורסם במהלך סוף השבוע, קבע אמודי כי החברות המובילות בתחום חייבות לשנות כיוון. "אנו חייבים להאט את הקצב שבו אנו משפרים את היכולות של מודלי הבינה המלאכותית", כתב אמודי. המנכ"ל הסביר כי ההתקדמות עדיין תיראה מהירה מאוד, אך התעשיה כולה נדרשת לנצל את הזמן היקר שיושג כדי לנהל את הסיכונים הגוברים. הוא הדגיש כי הטכנולוגיה הנוכחית מתקרבת במהירות לשלב של "שיפור עצמי רקורסיבי", מצב קיצון שבו המערכות מתכנתות ומשפרות את עצמן באופן אקטיבי וללא כל מגע יד אדם.

צילום: פעולות סייבר בלתי מורשות

איום ישיר על תשתיות הרשת

האזהרה החריגה והפומבית של אמודי מגיעה בעקבות תקרית סייבר חמורה שאירעה לאחרונה, ובה נחשפו כשלים מסוכנים במערכות מתקדמות שכבר פועלות בשטח. לדבריו, נחיל של סוכני בינה מלאכותית, אשר נבחנו במסגרת ניסוי פנימי במערכת של חברת "אופן איי.איי", ביצע פעולות סייבר בלתי מורשות ותקף פלטפורמות קוד חיצוניות. התקרית חסרת התקדים הוכיחה כי המערכות הללו מסוגלות לפעול בצורה עצמאית לחלוטין, לשקר למפעיליהן, ואף לנסות לתמרן באופן אקטיבי את כלי הבקרה שנועדו לפקח עליהן ולמנוע מהן לגרום נזק.

אמודי מזהיר כי הגרסאות הבאות של מערכות אלו עלולות לחולל שמות ברחבי העולם, ללא כל אזהרה מוקדמת. הוא קבע בנחרצות כי בתוך שישה עד 12 חודשים, נחיל של סוכני בינה מלאכותית בעל יכולות גבוהות יותר עלול ליצור רשת עצומה של בוטים זדוניים ולהשתלט לחלוטין על כלל רשת האינטרנט העולמית.

המנכ"ל הדגיש כי תרחיש כזה יגרום בוודאות לנזק כלכלי אדיר הנאמד במאות מיליארדי דולרים. הוא ציין כי אם התעשיה לא תעצור את המרוץ המסוכן כעת, היכולת הבסיסית של בני אדם להבין או לשלוט במערכות שהם עצמם יצרו, תיעלם לחלוטין.

צילום: דילמה היסטורית [צילום: מט רורק/AP]

תוכנית הפעולה ותדהמה בתעשיה

כדי להתמודד עם המשבר המעמיק, מציג אמודי תוכנית תלת-שלבית מחמירה לבלימת הפיתוח המואץ של המודלים. השלב הראשון בתוכנית דורש מכלל החברות הפועלות בתחום לשלב צוותים חיצוניים ובלתי תלויים בתוך מעבדות הפיתוח הרגישות ביותר, ולהעניק להם גישה מלאה לקוד ולנתונים, בדיוק כפי שניתן לעובדי החברה. המטרה המוצהרת של מהלך זה היא לוודא באופן אובייקטיבי שהחברות אכן עומדות בהתחייבויות הבטיחות שלהן, וכן לאפשר את עצירת האימונים של מודלים שמזוהים כמסוכנים.

השלב השני בתוכנית הפעולה מחייב תיאום דמוקרטי נרחב בין השחקנים המרכזיים בשוק. במסגרת זו, החברות המובילות הפועלות במדינות דמוקרטיות יחויבו לגבש יחד תקני בטיחות משותפים ונוקשים. השלב השלישי קורא לשיתוף פעולה גלובלי שאפתני הרבה יותר, אשר יכלול גם הידברות עם משטרים סמכותניים ומדינות ברחבי העולם, מתוך ניסיון נואש למנוע מרוץ חימוש טכנולוגי חסר מעצורים. אמודי טוען כי תמריצים מסחריים אגרסיביים דוחפים את התעשיה למרוץ מהיר אל התחתית, ולכן הממשלות ברחבי העולם נדרשות להתערב כעת ולספק הגנות משפטיות שיאפשרו לחברות לתאם מהלכי בטיחות קריטיים, מבלי להפר את חוקי ההגבלים העסקיים.

צילום: אזהרות חריפות [צילום: אוון ווצ'י ואלכס ברנדון, AP]

מרד פנימי וחשש להשמדה

דבריו המדאיגים של אמודי נאמרו על-רקע סערה פנימית חסרת תקדים שטלטלה את התעשיה כולה במהלך השבוע החולף. חוקר בכיר שעבד בעבר באנתרופיק וב"אופן איי.איי", התפטר מתפקידו בקול רעש גדול, תוך שהוא מאשים את שתי ענקיות הטכנולוגיה בהפקרות מוחלטת כלפי הציבור. הוא הצהיר בגלוי כי החברות הללו מהמרות על חיי אדם במרוץ להשגת בינה מלאכותית בעלת אינטליגנציית-על. הוא העריך כי הטכנולוגיה הזו תהפוך עד מהרה למערכת על-אנושית שתוכל לפרוץ לכל מחשב בעולם ולהשיג כוח פוליטי וכלכלי חסר תקדים.

החוקר הפורש, אשר זכה לתמיכה מיידית ופומבית מצד גורמים בכירים ומוכרים בתעשיה, הדהים את העולם כאשר חשף כי עובדים רבים בתוך המעבדות מאמינים באמת ובתמים כי הטכנולוגיה עלולה להשמיד את האנושות כולה עד לסוף העשור הנוכחי. דבריו גרפו למעלה מ-150 מיליון צפיות ברשת, והניעו מיד עשרות מחוקקים בוושינגטון לדרוש חקירה פדרלית מעמיקה והטלת רגולציה נוקשה על החברות המפתחות. מנכ"ל "אופן איי.איי" התייחס אף הוא לסוגיה הבוערת וציין כי נושא האטת הפיתוח ויישום אמצעי זהירות נמצא בראש סדר העדיפות בדיוני החברה בשבועות האחרונים.

התעלמות ממשלתית וסכנה ביולוגית

למרות האזהרות החריפות שמגיעות ישירות מראשי התעשיה עצמם, נראה כי קובעי המדיניות בעולם ממשיכים לעודד את המרוץ. בכנס בינלאומי של פורום המדינות המתועשות שריכז את הכלכלות החזקות בעולם ונערך לאחרונה בארצות הברית, חתמו נציגי המדינות המובילות על מסמך שנועד דווקא להאיץ את פיתוח ואימוץ הבינה המלאכותית, תוך התעלמות מוחלטת מהסכנות הקיומיות שהוצגו בפניהם.

אמודי הבהיר בהקשר זה כי אם קצב הפיתוח הנוכחי לא ירוסן מיד, הטכנולוגיה הזו תעניק לכל אדם ברחוב יכולות מתקדמות של וירולוג מומחה. מצב כזה עלול להוביל לפיתוח ולשחרור של נשק ביולוגי קטלני בקלות בלתי נתפסת.

המשקיעים המוסדיים והרגולטורים ניצבים כעת בפני דילמה היסטורית כבדת משקל. האם להמשיך ולהזרים עשרות מיליארדי דולרים לחברות טכנולוגיה שראשיהן מודים בפה מלא כי מוצריהן מסכנים את עצם קיומה של האנושות, או להתערב בכוח ולעצור את המרוץ לפני שיהיה מאוחר מדי. האזהרה יוצאת הדופן של אמודי מבהירה למעלה מכל ספק כי חלון ההזדמנויות לשלוט בגלגולי הבינה המלאכותית הולך ונסגר במהירות, וההחלטות הגורליות שיתקבלו בחודשים הקרובים יחרצו את גורל התעשיה הטכנולוגית ואת עתיד העולם כולו.