דרך אגב // המכוניות האוטונומיות בארצות הברית הפכו לאימת הכביש

לא מזמן, בלילה גשום וערפילי, כתבת של הוול סטריט ג׳ורנל ראתה מונית ללא נהג עומדת לצדה ברמזור. היא היתה ריקה מאדם, ובכל זאת כל החלונות היו פתוחים, ומהרמקולים שלה בקע בפול ווליום השיר Creep (לא זה שישראלים אוהבים, אלא זה של TLC). 

היא לא לבד: הרבה אנשים שמו לב שמשהו מוזר עובר בזמן האחרון על המוניות של Waymo. החברה, ששייכת לאלפבית (חברת האם של גוגל), כבר פרוסה בלא מעט ערים בארצות הברית ומבצעת יותר ממיליון נסיעות בחודש. אבל לאחרונה רבים מדווחים שהמכוניות הלבנות, שאיש לא יושב מאחורי ההגה שלהן ומעל כל אחת מתנשא מגדל של מצלמות, נהיו מאוד מאוד אגרסיביות. 

אלפי תלונות מתארות איך במקום לעצור לחלוטין בתמרור עצור הן פשוט מחליקות לתוך הצומת, איך הן מזגזות ומאיצות בכביש באופן שמאיים על נהגים אחרים, צופרות בעצבנות ללא צורך ובמקרים רבים מבצעות סיבובי פרסה בניגוד לחוק. ״זה כאילו הביאו לכאן את נהגי המוניות הכי אגרסיביים מניו יורק״, טוענים תושבים בסן פרנסיסקו. 

עד לאחרונה המוניות האוטונומיות היו מפורסמות דווקא בחששנות ובוותרנות שלהן. הן היו הנהגות הכי איטיות על הכביש, ונהגים שנקלעו מאחוריהן בצומת ידעו שהם ייאלצו להמתין דקות ארוכות עד שהן יאזרו את האומץ להשתלב בתנועה. 

במציאות, בשעה שהמהנדסים של גוגל פשוט סובבו מעט את הכפתור ואיפשרו למוניות להיות יותר אסרטיביות – נראה שאין מי שיעמוד מול הביטחון העצמי הגואה שלהן. מכיוון שאין להן נהג אנושי, המשטרה לא יכולה אפילו לתת להן דו״ח

אבל כעת לא נשאר שום דבר מהזהירות הזאת. רק בחודש שעבר הרשות לבטיחות בדרכים האמריקאית דיווחה שהיא חוקרת עשרות מקרים שבהם המוניות האוטונומיות לא עצרו ליד תחנות הסעה של תלמידים, גם כשמשמרות הבטיחות ניפנפו להן. 

Waymo, בתגובה, מסרה שהיא באמת עידכנה את הגרסה של התוכנה שמפעילה את המוניות. לדברי כריס לודוויק, מנהל המוצר של החברה, הם שמו לב שנהגים אחרים מנצלים את הזהירות המופלגת של הבינה המלאכותית כדי לעקוף אותה ולקחת את מקומה. ולכן, לדבריו, ״הפכנו אותה ליותר בטוחה בעצמה ואסרטיבית״. 

וזה כנראה ההבדל בין המציאות לחלומות אוטופיים. רק לפני ארבע שנים, כשהסופר והאינטלקטואל מלקולם גלדוול הלך להתרשם במו עיניו מהמונית האוטונומית, הוא חזה שהיא ״תחזיר את הכביש לידינו״. בפודקאסט שלו הוא מדגיש שמכוניות אוטונומיות עושות הרבה פחות תאונות ממקביליהן האנושיים, ומפנטז שבעתיד אפשר יהיה להתפרץ לכביש ללא חשש – כי כל מכונית שתהיה שם פשוט תעצור. 

אבל במציאות, בשעה שהמהנדסים של גוגל פשוט סובבו מעט את הכפתור ואיפשרו למוניות להיות יותר אסרטיביות – נראה שאין מי שיעמוד מול הביטחון העצמי הגואה שלהן. כיום הן נהנות ממעמד מועדף על הכביש: גם אם שוטר רואה אותן מבצעות עבירה, הוא לא יכול לעשות דבר. מכיוון שאין להן נהג אנושי, הוא לא יכול אפילו לתת להן דו״ח.

אל תאמינו בעצמכם

אז מה המשמעות של יותר ״ביטחון עצמי״ אצל מערכות AI? מי שגדל בשנות ה־90 בטח זוכר את ההפעלות בבית הספר שנועדו לחזק את הביטחון העצמי של התלמידים. זאת היתה התקופה שילדים קיבלו אותות הצטיינות, כוכבים ושבחים על כל דבר קטן שעשו, והתכנסו לדיונים עמוקים בשאלה ״מה אני הכי אוהב בעצמי?״. 

ביטחון עצמי נתפס אז בתרבות הפופולרית כמעין תרופת פלא, מעין ״חיסון חברתי״ שהופך אנשים למאושרים, פרודוקטיביים וטובים יותר. אם אתם רואים הורים שואגים ״וואו! איזה יופי״ באופן לא פרופורציונלי ומעושה לילדים שלהם – ויותר גרוע, אם אתם ההורה הזה – זה כנראה שריד של התקופה הזאת.

אנחנו נמצאים בתהליך מואץ, שבו השליטה על חלקים נרחבים מחיינו נמסרת למערכות בינה מלאכותית. היום אנחנו חיים בעולם שבו ה־AI לא רק ממיין מועמדים לעבודה ומייצר 50% מהתוכן ברשתות החברתיות – אלא גם אחראי על יצירת ״בנקי המטרות״ של צה״ל וקובע מי יחיה ומי ימות

בפודקאסט Radiolab, חזרו השבוע אל מי שחולל את המהפכה הזאת – ג׳ון ואסקונסלוס, שנולד למשפחה נוצרית אדוקה, חונך על ברכי האמונה שהוא ״חוטא״ ארור, ובשנות ה־70 עבר מטמורפוזה והפך לנביא של הביטחון העצמי בארצות הברית. אלא שמאחורי הצלחתו, והפרויקט שלו להחדיר את טיפוח הביטחון העצמי לתרבות ולבתי הספר, עמד סוד אפל: המחקרים שביצע הפריכו את כל מה שהטיף לו, אבל הוא בחר להתעלם מהם ולהדגיש רק את התוצאות שהתאימו לו. 

רק בתחילת שנות האלפיים האמת יצאה לאור: אחרי יותר משני עשורים שילדים חונכו להאמין בעצמם ובדרכם בכל מקרה ובכל מצב, התברר בשורת מחקרים וכתבות שהקשר בין ביטחון עצמי להצלחה הוא בכלל הפוך – לאנשים מצליחים יש יותר ביטחון עצמי, אבל ביטחון עצמי לבדו אינו מביא הצלחה. וכאשר מטפחים ביטחון עצמי ללא קשר למציאות התוצאה היא אנשים עם ביטחון עצמי מופרז, שנוטים להיות יותר אגרסיביים, נמהרים וחסרי שיקול דעת. 

בנק המטרות של ה־AI

אז מה יקרה כשהמהנדסים של גוגל יסובבו עוד קצת את הכפתור ויתנו לבינה המלאכותית שלהם יותר ביטחון עצמי? לפני שנה, כשהתחלתי לכתוב את הטור הזה (כן, אנחנו חוגגים שנה! אשמח לשמוע אם אתם נהנים), פתחתי אותו עם נוסע אומלל של waymo, שמצא את עצמו בתוך מכונית מוכת טירוף שסירבה להפסיק להקיף מעגל תנועה עד שקיבל בחילה. אז זה נראה כמו אגדה רחוקה ואקזוטית. 

אבל פחות משנה אחר כך, זה מרגיש קרוב מתמיד: אנחנו נמצאים בתהליך מואץ, שבו השליטה על חלקים נרחבים מחיינו נמסרת למערכות בינה מלאכותית. היום אנחנו חיים בעולם שבו ה־AI לא רק ממיין מועמדים לעבודה ומייצר 50% מהתוכן ברשתות החברתיות – אלא גם אחראי על יצירת ״בנקי המטרות״ של צה״ל וקובע מי יחיה ומי ימות. 

האימוץ הנלהב של בינה מלאכותית על ידי ממשלות, צבאות וחברות יעמיק בשנים הקרובות את רמת הפיקוח והשליטה על חיינו. אפילו תושבי ארצות הברית לומדים על כך בדרך הקשה: ICE, משטרת ההגירה האמריקאית, מריצה על מאגרי המידע של הממשלה את מערכות הבינה המלאכותית העוצמתיות של חברת פלנטיר כדי לסמן, לעצור ולגרש את מתנגדיו של הנשיא.

אז מה אפשר לעשות? נסו לעבוד על הביטחון העצמי שלכם. מאוד יכול להיות שתזדקקו לו בקרוב.