אפשר להתווכח עם רשומה, לשתף אותה בזעם או לעצור עליה רק מפני שהיא מקוממת - אבל מבחינת מערכת המלצות, כל הפעולות האלה עלולות להיראות כאות שהמשתמש רוצה עוד ממנו. מחקר חדש שפורסם (17.8.26) ב-PNAS מצא כי זה בדיוק הדפוס שנוצר בזרם "For You" (בשבילך) של X.
החוקרים מסטנפורד, MIT ומוסדות נוספים גייסו 715 משתמשים בארה"ב וביקשו מהם לדרג את חשיבותם של 19 ערכים אישיים, ובהם ביטחון, מסורת, עצמאות, הישגיות, ענווה ונהנתנות. לאחר מכן הם ניתחו את התכנים שהמשתמשים קיבלו בשני זרמים שונים: "Following", המבוסס על חשבונות שבחרו לעקוב אחריהם, ו-"For You", שבו האלגוריתם קובע אילו תכנים יקודמו.
החשבונות שבחרנו התאמו יותר לערכים שלנו
בזרם "Following" נמצאה התאמה טובה יחסית בין הערכים שעליהם דיווח המשתמש לבין הערכים שהופיעו בתכנים שהגיעו מהחשבונות שבחר בעצמו לעקוב אחריהם.
התמונה התהפכה ככל שהאלגוריתם היה מעורב יותר בדירוג. ב-"For You" נמצאה התאמה שלילית: ככל שהתוכן קיבל יותר הגברה אלגוריתמית, כך הערכים שהובעו בו נטו להיות רחוקים יותר מערכי המשתמש.
הבעיה מתחילה דווקא בהתנהגות שלנו
ההסבר שמציעים החוקרים אינו שהאלגוריתם "מעדיף זעם" במובן מודע, אלא שמדד המעורבות שלו אינו יודע להבחין היטב בין סוגים שונים של תגובה.
משתמש יכול להגיב לרשומה משום שהוא מסכים איתה, אבל גם משום שהוא מתנגד לה בחריפות. הוא יכול לשתף אותה כדי לבקר אותה, להתעכב עליה משום שהיא מרגיזה אותו או לפתוח שרשור תגובות מתוך כעס.
מבחינת מערכת שמודדת קליקים, תגובות, שיתופים וזמן צפייה, כל אלה נראים כמו עניין. וכאשר "עניין" משמש תחליף ל"העדפה", נוצרת אפשרות שהמערכת תלמד להגיש למשתמש עוד מאותו תוכן שמקומם אותו.
הזעם עלול להזין את עצמו
כך יכולה להיווצר לולאה פשוטה: המשתמש נחשף לתוכן שסותר את ערכיו, מגיב אליו בגלל שהוא מכעיס אותו, והתגובה עצמה מלמדת את המערכת שהתוכן הצליח למשוך תשומת לב.
האלגוריתם אינו חייב להבין אם המשתמש אהב את הרשומה. די בכך שהוא רואה מעורבות גבוהה כדי להגדיל את הסיכוי שיופיעו תכנים דומים בהמשך.
המחקר מוסיף בכך שכבה חדשה לטענה המוכרת שרשתות חברתיות מקדמות תוכן מעורר זעם: החוקרים לא הסתפקו במדידת רגשות או קיטוב, אלא השוו בין הערכים שהמשתמשים עצמם אמרו שחשובים להם לבין הערכים שהתבטאו בתוכן שקודם אליהם.
בישראל, שבה X משמשת זירה אינטנסיבית במיוחד לחדשות, פוליטיקה, מלחמה ודיון ציבורי, משתמשים רבים נחשפים יום-יום לדעות שהם לא בחרו לעקוב אחריהן.
הממצא האמריקני אינו מוכיח שהאלגוריתם פועל בדיוק באותה צורה אצל משתמשים ישראלים, אבל הוא מציע מנגנון אפשרי לתופעה מוכרת: ככל שאדם מגיב יותר דווקא לתוכן שמקומם אותו, כך הוא עלול ללמד את המערכת להציג לו עוד ממנו.
המשמעות חורגת גם מעבר לשאלת נוחות המשתמש. אם אלגוריתמים מתגמלים עצם מעורבות בלי להבחין אם היא חיובית או שלילית, הם עלולים לעצב את הדיון הציבורי כך שתוכן מעורר התנגדות יקבל יתרון על פני תוכן שהמשתמש פשוט מעריך בשקט.
הפתרון עלול ליצור בעיה אחרת
החוקרים פיתחו גם תוסף ניסויי לדפדפן שניסה לסדר מחדש את התכנים לפי הערכים שהמשתמש עצמו הצהיר עליהם.
אלא שגם כאן התמונה אינה פשוטה. התאמה חזקה מדי לערכי המשתמש עלולה ליצור בועה שבה הוא נחשף כמעט רק לתוכן שתואם את השקפותיו, ולצמצם חשיפה לדעות אחרות.
לכן הבעיה אינה מסתכמת בשאלה אם האלגוריתם צריך להראות למשתמש "יותר ממה שהוא אוהב", אלא כיצד להבדיל בין עניין אמיתי לבין תגובה שנובעת מכעס, התנגדות או הלם.
מחקר בפלטפורמה אחת
יש לממצאים מגבלות ברורות. המחקר כלל 715 משתמשים אמריקנים בלבד ונערך בפלטפורמה אחת - X. אי-אפשר להסיק ממנו שהאלגוריתמים של פייסבוק, אינסטגרם, טיקטוק או יוטיוב יוצרים אותו דפוס.
החוקרים גם לא שלטו במערכת ההמלצות עצמה, ולכן מדובר בניתוח של אלגוריתם שפעל בעולם האמיתי ולא בניסוי שבו הוגדרו מראש כל התנאים. מכאן שהקשר בין מעורבות שלילית לבין הגברת התוכן חזק ומעניין, אך דורש זהירות כאשר מנסחים סיבתיות.
המסקנה המדויקת היא שהאלגוריתם של X נטה להגביר תכנים שהערכים שלהם היו פחות תואמים לאלה של המשתמשים עצמם - ודפוסי המעורבות של המשתמשים עשויים להסביר כיצד תוכן שמכעיס אותם הופך דווקא לתוכן שהם רואים יותר.
תגובות
רגע, שקט פה מדי
דעתך חשובה - תהיו הראשונים להגיב על הכתבה