מאסק תחת אש: כלי הבינה המלאכותית יצר תוכן פורנוגרפי של טיילור סוויפט ללא בקשה

כלי הבינה המלאכותית החדש של אילון מאסק, Grok Imagine, מואשם ביצירת סרטונים פורנוגרפיים של הזמרת טיילור סוויפט ללא כל בקשה מצד המשתמשים. לפי דיווח של The Verge, מצב "spicy" של הכלי הניב סרטונים חושפניים לחלוטין של סוויפט, למרות שהמשתמש לא ביקש תוכן מיני.

פרופ' קלייר מקגלין מאוניברסיטת דרהאם, שסייעה בניסוח חוק האוסר על יצירת דיפ-פייקים פורנוגרפיים, טוענת כי מדובר ב"הטיה מיזוגנית מובנית" בטכנולוגיה. "עצם העובדה שהתוכן הזה נוצר ללא כל הנחיה – מדגימה את ההטיה המיזוגנית המובנית בטכנולוגיות AI רבות", הוסיפה פרופ' מקגלין מאוניברסיטת דרהאם. "פלטפורמות כמו X יכלו למנוע את זה – אם רק היו רוצות. אבל הן בחרו במודע שלא לעשות זאת", הוסיפה.

הכלי הפר גם את חוקי הגנת הילדים החדשים בבריטניה, המחייבים אימות גיל מדויק לפני הצגת תוכן מיני. על-אף שהמשתמש התבקש להזין תאריך לידה, לא בוצע אימות נוסף.

האירוע הנוכחי מצטרף למקרה קודם בינואר 2024, שבו דיפ-פייקים מיניים עם פניה של סוויפט הפכו לוויראליים ונצפו מיליוני פעמים בפלטפורמות X וטלגרם. אז חסמה X זמנית את האפשרות לחפש את שמה של סוויפט, והצהירה כי היא "מסירה באופן פעיל" את התמונות ונוקטת "צעדים מתאימים" נגד החשבונות שהפיצו אותן.

רגולטור התקשורת הבריטי, Ofcom, מסר כי אתרים ואפליקציות הכוללים כלים של בינה מלאכותית גנרטיבית המסוגלים לייצר תוכן פורנוגרפי – כפופים לחוק הבריטי החדש. "אנו מודעים לסיכון ההולך וגדל של כלים כאלה, במיוחד עבור ילדים, ופועלים להבטיח שהפלטפורמות יטמיעו אמצעי הגנה מתאימים", נמסר.

הברונית אוון, שהציעה את התיקון בבית הלורדים, אמרה: "כל אישה צריכה את הזכות לבחור מי מחזיק בתמונות האינטימיות שלה. חיוני שהמודלים האלו לא ישמשו להפרת זכותה של אישה להסכמה – בין אם היא סלבריטאית ובין אם לא".

ממשרד המשפטים הבריטי נמסר: "דיפפייקים מיניים שנוצרים ללא הסכמה הם משפילים ופוגעניים. לא נסבול את האלימות נגד נשים ונערות – ולכן העברנו חקיקה שתאסור על יצירתם במהירות האפשרית".

נציגיה של טיילור סוויפט פנו לתגובה, אך טרם נמסרה תגובה רשמית.