תעשיית הכזב: יוצרי תוכן גורפים רווחים מתמונות ומסרטוני מלחמה מזויפים

גל חסר תקדים של מידע כוזב מבוסס בינה מלאכותית (AI) על המלחמה בין ארה"ב וישראל לבין אירן שוטף את הרשתות החברתיות. מומחי טכנולוגיה ודיגיטל מזהירים כי יוצרי תוכן מנצלים את הנגישות הגוברת לכלים מתקדמים כדי להפיק רווחים כספיים מהפצת סרטונים ומראות מזויפים, תוך הטעיית הציבור ושיבוש היכולת להבחין בין אמת לשקר.

הניתוח המקצועי של BBC Verify העלה כי סרטונים שהופקו בבינה מלאכותית וצילומי לווין מפוברקים צברו מאות מיליוני צפיות ברחבי העולם, תוך יצירת מצג שווא של אירועים ביטחוניים דרמטיים שלא התרחשו מעולם.

הסרטונים המזויפים מציגים תקיפות דמיוניות ומרהיבות מבחינה חזותית, כמו פגיעת טילים ישירה בלב תל אביב בליווי קולות נפץ מוקלטים, או גורד השחקים בורג' ח'ליפה בדובאי כשהוא עולה באש בזמן המנוסה של תושבים ותיירים. "מה שדרש בעבר הפקה מקצועית ויקרה של אולפני וידאו, נעשה כעת תוך דקות ספורות באמצעות כלי AI פשוטים", מסביר טימותי גרהם, מומחה למדיה דיגיטלית. לדבריו, החסם ליצירת צילומים סינתטיים משכנעים קרס לחלוטין, והיקף התופעה הפך לבלתי ניתן להתעלמות במלחמה הנוכחית שהחלה בתקיפות ב-28 בפברואר.

מנגנון הרווח והתמריץ הכלכלי

התמריץ המרכזי העומד מאחורי הפצת הזיופים הוא כלכלי מובהק ונובע ממודל המונטיזציה של הרשתות החברתיות. פלטפורמת X (טוויטר לשעבר) הודיעה השבוע כי תתחיל להשעות זמנית יוצרי תוכן מתוכנית חלוקת ההכנסות שלה אם יפרסמו תוכן AI של עימות מזוין ללא תווית אזהרה ברורה. התוכנית מתגמלת משתמשים על בסיס חשיפה רחבה ומעורבות גבוהה, מה שהופך תוכן ויראלי מזויף ל"מדפסת כסף" עבור מפעילי החשבונות. מומחים מעריכים כי הפלטפורמה משלמת בין 8 ל-12 דולרים על כל מיליון חשיפות ממשתמשים מאומתים, וחשבונות המגיעים ל-5 מיליון חשיפות בשלושה חודשים הופכים לרווחיים ביותר.

הבעיה מחריפה בשל חוסר הדיוק של כלי האימות והבינה המלאכותית הפנימיים של הפלטפורמות. במקרים רבים שתועדו, צ'אטבוט הבינה המלאכותית "גרוק" (Grok) המוטמע ב-X, טען בטעות כי סרטונים מזויפים הם צילומים אמיתיים מהשטח. בנוסף, זוהתה הופעה מדאיגה של צילומי לווין סינתטיים. דוגמה בולטת לכך היא תמונה שפורסמה בעיתון "טהרן טיימס" המזוהה עם המשטר באירן, ובה הוצג נזק כבד כביכול למפקדת הצי החמישי של ארה"ב בבחריין. בדיקה טכנולוגית העלתה כי מדובר במניפולציה של צילום לווין מפברואר 2025, הכוללת שיבוץ אלמנטים גרפיים להמחשת הרס.

צילום: VRT ניתחה את הסרטון המזויף שהציג את מלון היוקרה בורג' ח'ליפה בדובאי עולה באש [זיוף באמצעות AI]

הכלים הטכנולוגיים ושחיקת האמינות

זמינות הכלים ליצירת תוכן כוזב מעולם לא הייתה גבוהה יותר. רשימת הפלטפורמות הפופולריות כוללת את מודל ה-Veo של גוגל, מודל ה-Sora של OpenAI, אפליקציית Seedance הסינית ומנוע Grok של X. מומחים מדגישים כי המתח המובנה בין מודלים עסקיים המבוססים על מעורבות (Engagement) לבין הצורך במידע מדויק הוא שורש הבעיה. בעוד שחברות המדיה החברתית מצהירות על ניסיונות לשפר את מערכות הניטור, טרם נמצא פתרון טכנולוגי אפקטיבי שיעצור את קצב ההפצה האוטומטי והזול של התכנים המזויפים.

ההשלכות של תעשיית הזיופים חורגות מהמישור הכספי, שכן הן פוגעות אנושות באמון הציבור במידע מאומת ומקשות על גורמי מחקר ותקשורת לתעד ראיות אמיתיות משדה הקרב. במציאות שבה המרדף אחר הוויראליות וההכנסות מפרסום מתגמל זיוף והטעיה, האמת הופכת למוצר משני בשירות המונטיזציה והתעמולה המדינתית. המלחמה הנוכחית מהווה תמרור אזהרה ליכולת של החברה האנושית לקיים שיח מבוסס עובדות בעידן הבינה המלאכותית היוצרת.

תעשיית המידע הכוזב צפויה להמשיך ולהשתכלל ככל שהאלגוריתמים יהפכו לנגישים וזולים יותר. המאבק בתוכן המזויף דורש כיום לא רק כלים טכנולוגיים מתקדמים לזיהוי, אלא גם שינוי מהותי במודל התגמול הכלכלי של ענקיות הטכנולוגיה, שכרגע מעדיפות חשיפה על פני אמינות. ללא פיקוח הדוק וסימון שקוף, מרחב המידע הציבורי עלול להפוך לשדה קרב של מצגי שווא שנועדו לגרוף רווחים על חשבון האמת העובדתית.