עיצוב מחובר תרבותית: לעבוד נכון עם Visual Gen AI

הכלים החדשים של ״בינה מלאכותית גנרטיבית חזותית״ מעניקים למעצבים כוח חסר תקדים. הם מאפשרים לייצר דימויים במהירות ולפתוח אפשרויות חדשות לחיפוש ויצירה. זו טכנולוגיה שמרחיבה את גבולות האפשר ומצמצמת את הפערים ההפקתיים והטכניים שהגבילו מעצבים בעבר, והפכה לחלק משמעותי מתהליכי עיצוב ויצירה עכשוויים.

בינה מלאכותית לא פועלת בחלל ריק. היא לומדת ממיליארדי תמונות שכבר קיימות בעולם – מאגרי מדיה, ארכיונים, פוסטים ברשת – וכל אלה טומנים בחובם הטיות תרבותיות, אידיאלים של יופי, היררכיות של כוח ופרספקטיבות דומיננטיות. הבינה לא רק לומדת סגנונות וקומפוזיציות, אלא גם את הערכים, ההטיות והנורמות החברתיות הטמונות בחומר הגלם הזה. כשהיא יוצרת דימוי חדש, הוא לא נוצר ״יש מאין״, אלא משחזר את העולם כפי שהוא משתקף בנתונים המוזנים לה, ולכן כל דימוי הוא מראה של הקוד התרבותי הרווח.

סדרת Barbie Around the World. צילום: באזפיד

מודל AI לצד חיפוש Google Lens שחושף את המקור באתר של MoMA

המחקר שלי לתואר השני במחלקה לתקשורת חזותית ב־Istituto Marangoni במילאנו נולד מתוך המתח הזה. יחד עם בן הזוג שלי, תומר פרנקו, שמגיע מעולמות העיצוב והטכנולוגיה, פיתחנו את Designing with Visual AI, מדריך למעצבים, במטרה להבין איך יוצרים יכולים לעבוד עם AI לא רק ככלי שמפיק תוצאות ״יפות״, אלא ככלי שמשרת עומק תרבותי ודיוק רעיוני – גם לנוכח המגבלות שהוא נושא עמו.

במהלך המחקר בחנו כיצד מאגרי המידע של מערכות בינה מלאכותית משפיעים על הדרך שבה תרבות מיוצגת. נחשפנו להטיות תרבותיות נפוצות: איך מודלים מייצגים זוגות כמעט תמיד כהטרוסקסואליים, איך גיל הזהב נדחק הצידה לטובת נוער נצחי, ואיך דימויים מדרום אסיה או אפריקה נראים ״מיושנים״ לעומת ייצוגים מערביים.

במהלך המחקר נחשפנו להטיות תרבותיות נפוצות: איך מודלים מייצגים זוגות כמעט תמיד כהטרוסקסואליים, איך גיל הזהב נדחק הצידה לטובת נוער נצחי, ואיך דימויים מדרום אסיה או אפריקה נראים ״מיושנים״ לעומת ייצוגים מערביים

אחת הדוגמאות הבולטות להטיות האלו עלתה כשכלי הבינה המלאכותית של מטא נכשל שוב ושוב ביצירת תמונות של זוגות בין־גזעיים. גם כשהוזן תיאור ברור, לדוגמה ״אישה שחורה עם בעל לבן״ – המערכת ייצרה דימויים אחידים שנשענו על ייצוגים נפוצים ולא על גיוון אמיתי. המקרה הזה ממחיש עד כמה ההטיות טמונות בשכבות העמוקות ביותר של המודלים, זהו שיקוף של מערך תרבותי רחב יותר שבו ״נורמליות״ נתפסת דרך עיניים מערביות. 

דוגמה נוספת להטיות תרבותיות הופיעה כשבאזפיד פרסמו את סדרת Barbie Around the World שנוצרה כולה באמצעות בינה מלאכותית. הסדרה כללה דימויים ״מקומיים״ של ברביות מרחבי העולם, אך במהרה עוררה ביקורת חריפה על חוסר רגישות תרבותית: לדוגמה, ״ברבי מדרום סודן״ חמושה בנשק ו״ברבי מקטאר״ שחובשת כיסוי ראש גברי.

למרות שמדובר בדוגמה ישנה במונחי AI, היא ממחישה היטב איך ההטיות הללו מוטמעות עמוק בתוך המודלים עצמם, באיך שהם מפרשים זהויות, מגדרים ותרבויות דרך עדשת האינטרנט שעליה הם אומנו. בשנים האחרונות המודלים החדשים נעשו זהירים יותר, אך המקרה הזה עדיין מבהיר כיצד מודל AI לכאורה ניטרלי משעתק תפיסות תרבותיות קיימות במקום לאתגר אותן.

דוגמאות כאלה ורבות אחרות לא מהווים כשלים טכניים – להפך, הם שיקוף ישיר של מאגרי המידע שעליהם הבינה המלאכותית מתאמנת. המודל משקף את העולם שהוא למד ממנו: עולם שמעדיף נראות מסוימת, יופי מסוים, מרכזים תרבותיים מסוימים.

האתגר הוא להשתמש בכלי הזה באופן מודע; לא לתת לו להכתיב את השפה החזותית, אלא לנהל אותו יצירתית. כשיוצרים משתמשים בתוצרים האלה מבלי לבחון אותם לעומק, הם עלולים, בלי לשים לב, לשעתק את אותן הנחות יסוד. כך נוצר מעגל סגור (feedback loop) שבו התרבות מזינה את הבינה המלאכותית, והבינה המלאכותית מחזירה לתרבות גרסה מעובדת, מנוּקית, ולעיתים גם אחידה מדי שלה עצמה.

קיימים גם אתגרים מהותיים נוספים. בגלל האופן שבו בינה מלאכותית לומדת – מנוע שמעדיף את מה שכבר פופולרי, מוכר או ״עובד״ – נוצרת תופעה של הומוגניזציה חזותית: התוצרים מתחילים להיראות דומים זה לזה, בעלי קווים ויזואליים חוזרים ושפה אחידה. כשהמודלים מעצימים את הממוצע, הם מוחקים את הייחודי, את החריג והבלתי צפוי, בדיוק אותם מקורות שמהם נוצר חידוש.

בעיה נוספת היא האופן שבו בינה מלאכותית מחקה סגנונות של אמנים קיימים מבלי להכיר בהם. כחלק מה־datasets המודלים מתבססים על עבודות של יוצרים אמיתיים ומייצרים וריאציות חדשות, אך ללא ייחוס או הקשר, מה שמטשטש את הגבול בין השראה להעתקה. 

במקביל, הצופה פעמים רבות כלל אינו יודע שהתוצר שנמצא מולו נוצר באמצעות בינה מלאכותית, מה שמערער את האמון במקור ובתהליך. אלה שאלות ודיונים שהיוו מאז ומתמיד חלק בלתי נפרד מעולם העיצוב והיצירה, אך בעידן הבינה המלאכותית הם הופכים למשמעותיים ודחופים מאי פעם. 

זהו כלי עבודה פרקטי שממפה את המגבלות ונותן פתרונות וכלי פעולה ביחס אליהן. יש כאן הזמנה לעצור לרגע בתוך תהליך ההפקה, לבחון את ההחלטות שמתקבלות ״על אוטומט״, ולחפש את האפשרות ליצירה מדויקת, ורלוונטית יותר

המדריך שיצרנו הוא אתר־מדריך שמציע למעצבים נקודת מבט תרבותית על עבודה עם בינה מלאכותית חזותית ונועד לפתח מתודולוגיות לשימוש אחראי וביקורתי ב־AI, לא רק ככלי הפקה מתקדם. זהו כלי עבודה פרקטי שממפה את המגבלות ונותן פתרונות וכלי פעולה ביחס אליהן. יש כאן הזמנה לעצור לרגע בתוך תהליך ההפקה, לבחון את ההחלטות שמתקבלות ״על אוטומט״, ולחפש את האפשרות ליצירה מדויקת, ורלוונטית יותר.

מהתהליך הזה, צמחה תובנה אחת שנשארת איתנו: יכולת ההפקה לבדה לא מגדירה יצירה והשימוש ב־AI לא מבטל את הצורך במומחיות – זהו כלי שמחייב אותנו להבין את הכלי, את ההקשר ואת התרבות שבתוכה אנחנו פועלים. כבכל עבודה במדיום אחר, מי שמבין את המדיום, את ההקשר ואת התרבות, ייצור עבודות מדויקות ובעלות משמעות.