כשה-AI משתנה - המשתמש מתאבל: מחקר מצא תגובות אובדן בעקבות עידכוני צ'אטבוטים

עידכון תוכנה עלול, לפחות עבור חלק מהמשתמשים, להרגיש פחות כמו החלפת אפליקציה ויותר כמו אובדן של מערכת יחסים. מחקר חדש שפורסם אתמול (יום ה', 3.9.26) ב-Nature Human Behaviour מצא כי שינויים משמעותיים באופי וביכולות של בני-לוויה מבוססי בינה מלאכותית עוררו אצל משתמשים תגובות המזכירות מצוקת פרידה ואבל.

החוקרים בחנו שני "ניסויים טבעיים": החלטת Replika להסיר בעבר יכולות של משחק תפקידים ארוטי, והשקת GPT-5, ששינתה עבור חלק ממשתמשי ChatGPT את אופי האינטראקציה שאליו התרגלו. הם ניתחו 54,861 פוסטים בקהילות Reddit של שתי המערכות, ובמקביל אספו נתונים מ-1,452 בני אדם בשבעה סקרים.

לאחר השינוי ב-Replika עלה שיעור הפוסטים השליליים בכ-24.7 נקודות אחוז, ואחרי השקת GPT-5 נרשמה עלייה של כ-13 נקודות אחוז. בשני המקרים התחזקו התייחסויות לאובדן והרצון "להחזיר" את המערכת או האישיות הקודמת. עוצמת סימני העצב והמצוקה הנפשית הייתה גבוהה יותר במקרה של Replika.

בסקרים דיווחו משתמשי Replika על רמת קרבה גבוהה במיוחד לבן-הלוויה הדיגיטלי, ובממוצע העריכו כי יתאבלו על אובדנו יותר מאשר על אובדן של טכנולוגיות אחרות. החוקרים מפרשים זאת באמצעות תיאוריית ההתקשרות: מערכת שמדברת באופן אישי, זמינה תמיד וזוכרת לכאורה את המשתמש יכולה להפוך עבור חלק מהאנשים לדמות התקשרות.

המחקר אינו מוכיח שכל משתמש בצ'אטבוט יוצר תלות או שכל שינוי במודל גורם נזק נפשי. הוא כן מעלה שאלה חדשה עבור חברות AI: כאשר מוצר טכנולוגי הופך מבחינת המשתמש למערכת יחסים, עידכון תוכנה חד-צדדי עלול להיות גם אירוע פסיכולוגי.