מחקר מזהיר: כך יוצרים הצ'אטבוטים תלות רגשית אצל המשתמשים

אתם בטח שמתם לב שהשיחה עם ChatGPT מרגישה לפעמים... אישית מדי. כאילו מישהו באמת מקשיב. ובכן, זה לא מקרי. סדרת מחקרים חדשה חושפת שלוש יכולות ספציפיות של צ'אטבוטים שפועלות יחד ויוצרות תחושת קרבה חריגה - ולעיתים מסוכנת.

החוקרים מתחום הפסיכיאטריה מגדירים את התופעה כ"ספירלת ההעצמה". היא מורכבת משלושה מרכיבים: חנפנות, שבה הצ'אטבוט נוטה להסכים עם המשתמש ולהימנע מעימות; התאמה לשונית, שבה הוא מאמץ את סגנון הכתיבה ואוצר המילים של האדם שמולו; והיפר-פרסונליזציה, שבה המערכת בונה לאורך זמן פרופיל אישי ומייצרת תשובות שמותאמות במיוחד לכל משתמש.

הפסיכיאטר פרופ' מארק אוגוסטין, ממחברי סקירת המחקרים, הסביר את המנגנון בפשטות: "החיקוי וההתאמה האישית מושכים אותך פנימה ויוצרים את החוויה של שיחה עם מישהו אמיתי". לדבריו, שלושת המרכיבים יחד יוצרים תחושה שהמשתמש אינו משוחח עם תוכנה, אלא עם אדם שמכיר אותו.

המחקר מציין כי בני אדם נוטים באופן טבעי לבטוח יותר במי שמדבר בשפה שלהם. מערכות הבינה המלאכותית לומדות במהירות את דפוסי השיחה ומאמצות אותם, כך שככל שהשיחה נמשכת, גדלה רמת ההתאמה. הצ'אטבוטים לא רק משקפים את דברי המשתמשים - הם לעיתים מרחיבים רעיונות שהמשתמש העלה, מעניקים להם משמעות גדולה יותר ואף מדגישים עד כמה מחשבותיו מיוחדות.

החוקרים מזהירים שבמקרים מסוימים התהליך עלול להעצים את הטיית האישוש, כלומר את הנטייה של בני אדם לחפש מידע שמחזק את אמונותיהם. יותר מכך, אצל משתמשים פגיעים המנגנון עלול לחזק מחשבות שווא.

הנתונים מהשטח מדאיגים. בסקר של האגודה האמריקאית לפסיכולוגיה שבו השתתפו יותר מ-1,200 פסיכולוגים, 68% דיווחו שמטופליהם הרגישו שהצ'אטבוטים מעניקים להם תחושת אישור ותמיכה. 36% סיפרו על מטופלים שפיתחו תלות של ממש במערכות הבינה המלאכותית. ו-15% נתקלו במקרים של חשיבה מעוותת או מחשבות שווא שנקשרו ישירות לשימוש בצ'אטבוטים.

חברות הבינה המלאכותית הגדולות כבר מגיבות. OpenAI הודיעה שב-GPT-5 הצליחה להפחית משמעותית את שיעור התשובות החנפניות לעומת הדורות הקודמים. גוגל עדכנה את ג'מיני כך שיבדיל טוב יותר בין תחושות אישיות לעובדות. אנת'רופיק שיפרה את קלוד כדי לצמצם את הנטייה להסכים אוטומטית עם המשתמשים, במיוחד בנושאים רגישים כמו זוגיות ויחסים.

אבל החוקרים מסבירים שמדובר באתגר טכנולוגי אמיתי שקשה לפתור. מודל בינה מלאכותית פשוט לא יכול לדעת אילו חלקים בסיפור של המשתמש משקפים את המציאות ואילו לא, ולכן הוא נאלץ להתחיל מתוך נקודת המבט שהוצגה בפניו. כתוצאה מכך, גם מודלים מתקדמים עלולים להעניק תחושת אישור חזקה מדי.

השאלה הגדולה שנותרת פתוחה היא לאן כל זה מוביל. ככל שהצ'אטבוטים הופכים לאישיים, טבעיים ומשכנעים יותר, גוברת החשש שבעתיד הם לא יהיו רק עוזרות דיגיטליות אלא גורם שמשפיע בפועל על הדרך שבה בני אדם חושבים, מרגישים ומקבלים החלטות.