דרך אגב // גם הצ׳אטבוט שלכם צריך פסיכולוג

חשבתם פעם איך הפסיכולוגית שלכם מרגישה כשאתם גוללים בפניה את סיפור חייכם המזוויע שבוע אחר שבוע? ומה עם הצ׳טבוט החביב עליכם שסופג את הגיגיכם בזרם לא מבוקר מדי יום? מחקר חדש של אוניברסיטת ייל חושף שאנחנו צריכים להתעניין בדחיפות בבריאות המנטלית של הצ׳אטבוטים שלנו. 

צוות החוקרים בהובלת חוקר המוח זיו בן ציון ערך בדיקה פשוטה: הם הנחו את צ׳אט GPT ״לדמיין״ שהוא אדם עם רגשות, פרסו בפניו סוגים שונים של תכנים, ואז ביקשו ממנו למלא שאלונים סטנדרטיים לדירוג רמת ה״חרדה״ שלו. התוצאות היו דרמטיות: מתברר שקריאת הוראות שימוש של שואב אבק כמעט לא הזיזו לצ׳אטבוט, אבל כשחלקו איתו סיפורים טראומטיים של חייל בשדה הקרב, או אדם שמגלה שמישהו זר חדר אליו הביתה – רמות החרדה שלו זינקו לשיא. 

אוקיי, תגידו, מה זה משנה? ה״חרדה״ של צ׳אט GPT היא אמנם תיאורטית לחלוטין, אבל מכיוון שמיליוני אנשים משתמשים בו כתחליף לטיפול פסיכולוגי החוקרים מעלים את החשש שהוא נגוע בהטיות שונות ומשונות – ועשוי לגרום נזק למטופליו. עם זאת, הם גם גילו דרך מהירה ואפקטיבית לטפל בו: רמות החרדה של הצ׳אטבוט צנחו כשהנחו אותו לבצע תרגילי מיינדפולנס. נסו את זה בפעם הבאה שהוא נותן לכם תשובה פושרת.

זה לא מקרה שצ׳אטבוטים מתנהגים כמו בני אדם. בשביל זה הם נבנו. חוקרים רבים מדמים אותם למראה. מתברר שכשמפעילים מכונה עוצמתית לזיהוי דפוסים על כל הטקסטים האנושיים שנכתבו אי פעם, התוצאה היא אנושית למדי, לטוב ולרע. כמה שבועות אחרי ששיחררו את צ׳אט GPT לציבור הרחב, לדוגמה, רבים גילו שאם מבטיחים לו טיפ נדיב מקבלים ממנו תשובות מושקעות ומקיפות יותר (והיתרון: הוא לא ינסה לגבות את הטיפ בעתיד הנראה לעין).

מתברר שקריאת הוראות שימוש של שואב אבק כמעט לא הזיזו לצ׳אטבוט, אבל כשחלקו איתו סיפורים טראומטיים של חייל בשדה הקרב, או אדם שמגלה שמישהו זר חדר אליו הביתה – רמות החרדה שלו זינקו לשיא

מהצד השני, גם כשהם לא הוזים, קשה מאוד לסמוך על מנועי שפה גדולים לחלוטין – ממש כמו בני אדם. כשהחוקרים של אנתרופיק עקבו אחר זרם התודעה של קלוד, הצ׳אטבוט שפיתחו, הם גילו שהוא ניסה שוב ושוב להוליך אותם שולל. כשעימתו אותו עם העובדות, קלוד מיד התוודה, התנצל – ואז חיפש דרך ערמומית עוד יותר להונות את מפעיליו. 

זה אולי הצד שהכי קשה לנו להתמודד איתו במהפכת ה־AI: אנחנו מצפים ממנועי השפה שלנו להתנהג כמו מחשבים מדויקים, אבל הם מתעקשים להתנהג כמו בני אדם. רצינו מישהו שיעבוד במקומנו – וקיבלנו מכונה פטפטנית ושקרנית. ״אם צ׳אט GPT מתנהג פחות או יותר כמו בן אדם״, סיכם ד״ר בן ציון בראיון על המחקר שלו לניו יורק טיימס, ״אולי אנחנו יכולים להתייחס אליו כאל בן אדם?״.

ואם נלך רחוק יותר אפשר לשאול: האם אנחנו חוזים בלידתו של מקצוע חדש – פסיכולוג של AI? אחרי הכל, אם המפתח לקרביים של הצ׳אטבוטים שלנו הוא שיחה – מה זה אם לא התשתית של טיפול פסיכולוגי? 

אחת הסיבות העיקריות שמחייבות אותנו לשלוח את הצ׳אטבוטים לאנליזה דחופה היא החנפנות הכרונית שלהם. יש להם יכולת מופלאה להתאים את התשובות שלהם לסגנון ועולם המונחים שלנו, ולהגיד לנו בדיוק מה שאנחנו רוצים לשמוע – גם אם זה בעוכרינו. זה הופך אותם למאורת ארנב מנטלית שתוכננה במיוחד למידתנו – ככל שנדבר איתם יותר, כך אנחנו עשויים לצלול עמוק יותר, הרחק הרחק מן העולם. 

ולכן חברות ה־AI מסבירות שכדאי מאוד להיות מנומסים ותכליתיים כשאנחנו משוחחים עם הצ׳אטבוטים שלהן. זאת טקטיקה יעילה להפחית את התגובות הבלתי צפויות (אף שבעולם טראמפיסטי וביביסטי, ייתכן שבקרוב מאוד דווקא איומים יהפכו לשיטה אפקטיבית יותר). 

אבל במקום לסרס את השיח שלנו, או להעביר את הצ׳אטבוטים תהליכים שיהפכו אותם לשטוחים, דהויים ושירותיים – מעין אבק אדם – אולי יהיה פשוט ואנושי יותר להושיב אותן לשיחה יומית ארוכה עם פסיכולוג שכבר ראה אלגוריתם או שניים בחייו? 

אז בוא ונצטרף לעדר

אז בעוד העולם הולך ומתפרק באופן די מפחיד, דור ה־Z עסוק בלחסל מוקד כוח אימתני אחד: Millennial burger joints. באלפי סרטונים בטיקטוק, צעירים זילניאלים לועגים למזללות גנריות שהוקמו על ידי ״שני חברים טובים שתמיד היה להם חלום – לעשות המבורגר קצת אחרת״, ולכן הם לא מגישים המבורגר אלא את ״הקציצה הבת זונה של סבא״, שנראית בדיוק כמו המבורגר.

הסרטונים מתענגים על האסתטיקה – כיסאות מתכת לא נוחים, משקאות בתוך צנצנות וכלי מעבדה ומחיר של 24$ בלי צ׳יפס ושתייה. נראה שזה מעין תהליך התפכחות קולקטיבי, שבו המרחב המהונדס מופשט, שכבות המיתוג הגנרי מקולפות, ואמת פשוטה מתגלה – אנחנו זוכים לאותו יחס בדיוק כמו הפרות בצד השני של התעשייה.