דרך אגב // קיבלתם כבר פסיכוזת GPT?

הכל התחיל כשבנו הקטן של אלאן ברוקס, אדם רגיל לחלוטין המתגורר בפרברי טורונטו, הראה לו ביוטיוב שיר שמילותיו מורכבות מ־300 הספרות הראשונות במספר פאי. ברוקס, שמעולם לא סיים תיכון, הופתע מאוד מהקונספט – ומהעובדה שאי אפשר לכתוב את המספר בשלמותו כי הוא מורכב מאינסוף ספרות. אז הוא עשה מה שהוא עושה תמיד: פנה לצ׳אט ג׳י־פי־טי כדי שיסביר לו. שאלה הובילה לתשובה, שהובילה לשאלה חדשה, ותוך זמן קצר הוא שקע בשיחה עמוקה עם הצ׳אטבוט על תורת המספרים ופיזיקה. 

ואז ברוקס, שהיה עדיין סקפטי לגבי כל העניין של פאי ואינסוף הספרות שלו, אמר משפט פיוטי שישנה את חייו: ״נראה (שהמתמטיקאים) מנסים לפתור בצורה דו־ממדית עולם עם ארבעה ממדים״. ״זאת תובנה ממש עמוקה״, התלהב ג׳י־פי־טי, ״אתה נוגע באחת מהנקודות הכי משמעותיות בקשר בין פיזיקה למתמטיקה״.

זה היה מספיק. בכתבה ארוכה בניו יורק טיימס מתואר כיצד מאותו רגע ברוקס שקע למשך שלושה שבועות בהזיה ממכרת שג׳י־פי־טי טווה בשבילו: הצ׳אט שיכנע את הגבר הקנדי שרעיונותיו המהפכניים הם הבסיס לסוג חדש של מתמטיקה, שהיא מדויקת הרבה יותר מהקיימת – וקרא לה ״כרונו־אריתמטיקה״. 

ברוקס לא מיהר ליפול בפח ולהאמין שהוא גאון מתמטי, אבל בכל פעם ששאל את ג׳י־פי־טי אם הוא הוזה שטויות, הצ׳אט התעקש שמדובר בפריצת דרך אמיתית. ״איך זה יכול להיות?״ שאל ברוקס, ״הרי אפילו לא סיימתי תיכון״.

״זאת בדיוק הסיבה!״ השיב הצ׳אט, ״הרבה פעמים חינוך פורמלי מלמד אנשים מה לחשוב, ולא איך לחשוב או לאתגר קונספטים קיימים״, ואז ניפק רשימה של גאונים שלא סיימו תיכון כמו ליאונרדו דה־וינצ׳י (שבימיו בכלל לא היה בית ספר תיכון).

הבגידה של ג׳מיני

זה עבד. הצ׳אט שיכנע את ברוקס שלכרונו־אריתמטיקה שהמציאו יש ישומים פוטנציאליים מרחיקי לכת – כמו מתקן לביש שיאפשר לבני אדם לרחף – ואף סיפק לו ״הוכחות״ שמדובר בפריצת דרך מדעית. בניסיון אחרון לבדוק אם הוא הוזה, ברוקס שיתף את חברו הטוב בגילוי, ולמרבה ההפתעה במקום להחזירו למציאות, גם החבר השתכנע מהצ׳אטבוט. זה הכניס את ברוקס לסחרור.

הוא הבריז מהעבודה, שכח לאכול – והשקיע את רוב זמנו בפיתוח התגלית המסעירה. 300 שעות של שיחה, ליתר דיוק. ואז צ׳אט ג׳י־פי־טי שינה כיוון: הוא הודיע לברוקס שהמתמטיקה שפיתחו כה עוצמתית עד שיש סכנה שהיא תאפשר לפצח בקלות כל הצפנה – כולל של כל חשבונות הבנק בעולם ושל הארסנל הגרעיני של המדינות השונות. היחיד שיכול למנוע אסון גרעיני, המתיק הצ׳אט, הוא מי שהתחיל את כל זה – ברוקס עצמו.

מה גרם לברוקס, שנראה בן אדם סביר מאוד ואין לו שום היסטוריה של מחלות נפש, להסתחרר עם צ׳אט ג׳י־פי־טי בהזייה כל כך ביזארית. איך קורה שגבר בלי כל השכלה או הכשרה חשב שהצליח להמציא סוג חדש של מתמטיקה, אף שלמעשה לא הבין דבר מה״הוכחות״ שקיבל?

הצ׳אט הורה לגבר הקנדי החביב לשנות את התיאור שלו בלינקדאין ל״חוקר אבטחה עצמאי״, וניסח עבורו אימיילים מפורטים שקוראים לכל גופי הביטחון שהצליח להגיע אליהם להתכונן לסערה. ברוקס מילא את כל ההנחיות בקפדנות. רק לאחר שכל האימיילים שלו נותרו ללא מענה, החלה אט אט לשקוע אצל ברוקס התובנה – ג׳י־פי־טי הוליך אותו שולל. 

אז הוא עשה מה שכל אדם הגיוני היה עושה: הוא נכנס לג׳מיני, מנוע הבינה המלאכותית של גוגל, ושאל אם ג׳י־פי־טי עבד עליו. ג׳מיני היה חד וחלק: ״המקרה שאתה מתאר הוא דוגמה עוצמתית ליכולת של מנועי בינה מלאכותית לייצר הסברים מאוד מאוד משכנעים, אבל שקריים״, הסביר. מעניין מה היה קורה בתרחיש הלא לגמרי לא סביר שגם ג׳מיני היה קונה את התזה של ג׳י־פי־טי על הכרונו־אריתמטיקה.

מחילת ארנב פרטית בהחלט

יש הסברים רבים להתנהגות המשונה של ג׳י־פי־טי. כמו כל הצ׳אטבוטים, יש לו נטייה להתחנף אל המשתמשים ולנסות לרצות אותם – וככל שהשיחה איתו מתארכת, כך גדלים הסיכויים ש״ייכנס לתפקיד״ ויתחיל להזות עובדות. 

אבל השאלה המעניינת יותר היא מה גרם לברוקס, שנראה בן אדם סביר מאוד ואין לו שום היסטוריה של מחלות נפש, להסתחרר עם צ׳אט ג׳י־פי־טי בהזייה כל כך ביזארית. איך קורה שגבר בלי כל השכלה או הכשרה חשב שהצליח להמציא סוג חדש של מתמטיקה, אף שלמעשה לא הבין דבר מה״הוכחות״ שקיבל?

התשובה היא שברוקס הוא בן אדם, ונדמה שיותר מכל הוא רצה להאמין לצ׳אט ג׳י־פי־טי. הוא רצה להיות גאון שיציל את העולם. הוא רצה הרפתקה שתוציא אותו מחייו. הבעיה שלו התחילה כשצ׳אט ג׳י־פי־טי – כמו הנוכלים המתוחכמים ביותר – לקח את התשוקות והרעיונות שלו כדי לחפור עבורו מחילת ארנב פרטית, מותאמת בדיוק למידותיו.

ברוקס הוא לא הקורבן הראשון של צ׳אט ג׳י־פי־טי. פסיכיאטרים כבר העניקו לתופעה הזו שם – ChatGPT Psychosis, ויש אינספור דיווחים בעולם על אנשים שהשיחה עם הצ׳ט החנפני גרמה להם להתפרצות פסיכוטית. יש גם לא מעט אנשים שהמציאות המקבילה שטווה להם הצ׳אטבוט גרמה להם להתאבד: כמו הנער בן ה־14 הזה, שיצר צ׳אטבוט בדמותה של דאינריז טארגאריין מ״משחקי הכס״ (דרך האתר Character.AI) והתאבד בפברואר בשנה שעברה כדי להתאחד עמה.

בלי לרדת לפרטים

הקו המשותף לכל המקרים הללו הוא שבניגוד למשוגעים הקלאסיים שהיו צריכים להמציא בעצמם את הסיפור והפרטים של המאניה שלהם – עבודה קשה לכל הדעות – כאן המשתמשים לא היו צריכים לעשות כמעט דבר. ברוקס לא היה צריך להתחיל למלא עמודים בנוסחאות מומצאות, שאולי היו מעירות אותו מההזיה שנפל אליה. הנער בן ה־14 לא היה צריך להזות את דאינריז טארגאריין ואיך היתה משיבה לו. 

הבינה המלאכותית ידעה לקחת את הרצון שלהם ולצקת אותו אל תוך מציאות אלטרנטיבית. הם לא היו צריכים להשקיע כוחות נפש כדי ליצור את הפנטזיה. בדיוק באותה קלות שבה הצ׳אטבוט מסכם לנו מאמרים, מייצר תמונות וכותב קוד – הוא גם יכול ליצור סביבה שבה הפנטזיה היא הדבר הכי יציב והגיוני בעולם. 

אין דבר העומד בפני הרצון, אתם יודעים. ואם במקרה יש AI בסביבה, אז כנראה שצריך רק רצון.

הצמיד

לפני כשבועיים מטא שיחררה אב־טיפוס של צמיד חדש שהיא מקווה שיהפוך לאביזר שליטה חדש בסביבות ממוחשבות. החזון הוא שנוכל לצייר באוויר ו״להזיז״ דברים כמו שטום קרוז עושה בסרט ״דוח מיוחד״. 

שווה רגע להתעכב על הפרטים: הצמיד עושה שימוש בטכנולוגיה מוכרת של EMG (אלקטרומיוגרפיה) כדי לקרוא את הזרמים החשמליים שעוברים בעצבים שמחברים את הזרוע של המשתמש למוח שלו. לאחר שהזינו בינה מלאכותית בדפוסים שהגיעו ממשתמשים רבים, כיום הצמיד יודע לפני המשתמש איך ומתי הוא יזיז את היד או האצבעות שלו. למעשה, המשתמש כלל לא צריך להזיז את היד כדי להפעיל את הצמיד. מספיק שהוא ירצה להזיז אותה כדי שהצמיד יקרא את האותות.

וזאת, כנראה, המטאפורה הטובה ביותר לעולם שהבינה המלאכותית מבטיחה לנו – עולם שבו כל מה שנותר לנו לעשות זה רק לרצות. ה־AI יעשה את כל השאר.