סטנפורד שינתה גזע ומגדר בתמונת פרסום בעזרת AI
אוניברסיטת סטנפורד הסירה כרזות פרסום לאחר שהשתמשה ב-AI כדי לשנות תמונה של סטודנטים, ועוררה ביקורת חריפה על הפרת מדיניות ה-AI שלה. הסטודנט ההיספני בילי רמירז הוחלף בדמותה של אישה שחורה, ושני סטודנטים אחרים עוצבו מחדש כך שייראו רזים יותר. האוניברסיטה הודיעה על תוכניות הכשרה למניעת הישנות מקרים כאלה.

כשאוניברסיטת סטנפורד, מוסד עילית אמריקני שמתגאה בגיוון הסטודנטים שלו, פרסמה תמונה של שלושה סטודנטים מחזיקים צלחות אטריות במסיבת ראש השנה הסיני — איש לא העלה על דעתו שהתמונה תעבור עיבוד AI דרמטי, שימחק את אחד מהם ויגרום לאחרים להיראות רזים יותר. הפרשה הזו, שמסעירה את עולם האקדמיה, חושפת לא רק טעות שיפוט, אלא גם את הסכנות שבשימוש לא מפוקח בבינה מלאכותית.
מה קרה בתמונה? התמונה המקורית צולמה ב-2024, ובה נראים שלושה סטודנטים: בילי רמירז, סטודנט היספני לביולוגיה אנושית, סטודנטית אסייתית וסטודנט נוסף. הגרסה הערוכה, שהוצגה לאחרונה על כרזות פרסום בקמפוס, שונתה לחלוטין: רמירז הוחלף בדמותה של אישה שחורה שנוצרה על ידי AI, ושני הסטודנטים האחרים הורזו ותווי הפנים שלהם שונו, בנוסף להוספת לוגואים של סטנפורד על הבגדים.
"ראיתי את עצמי נמחק בקלות — וזה היה מטריד" רמירז, שגילה על ההחלפה דרך חבר, אמר בראיון: "לראות אותי נמחק ככה בקלות היה די מטריד. בהתחלה מצאתי את זה מצחיק, אבל אחרי שהשוויתי, התאכזבתי כי אני לא מסכים שסטנפורד תקבל החלטות כאלה לגבי האופן שבו אנחנו מיוצגים". הדברים האלה הפכו לסמל של תחושת ההדרה, במיוחד על רקע העובדה שרמירז עצמו לא היה "לבן" — אף שנראה שזה מה שחשבו כשניסו לגוון את התמונה.
המדיניות שהופרה אוניברסיטת סטנפורד אישרה את השימוש ב-AI להחלפת הגזע והמגדר בתמונה, והודתה שזו הפרה של מדיניות ה-AI הברורה שלה. "מדיניות ה-AI של סטנפורד ברורה: השימוש ב-AI ביצירה או בשינוי של תמונות של אנשים, אירועים, מחקרים, מתקנים או הישגים של סטנפורד אסור בהחלט", נכתב בהצהרה. "גם השינוי וגם אי-החשיפה במקרה הזה מפרים את המדיניות. אנו עובדים כדי לספק הכשרה נוספת לכל הצוות ולוודא בדיקה נאותה של כל החומרים". התמונה הוסרה, והאוניברסיטה הודיעה על תוכניות להכשרת עובדים כדי למנוע מקרים דומים.
תגובות בקמפוס ומעבר הסיפור נחשף לראשונה בידי עיתון הסטודנטים The Stanford Review והתפשט ברשת החברתית Fizz, הפופולרית בקמפוסים אמריקניים. סטודנטים הביעו זעם, כמו קוונדר פאטל, שציין שסטנפורד גאה בגיוון ולא צריכה "להמציא" אותו. הפרשה מעוררת שאלות על האתיקה של AI במוסדות אקדמיים, במיוחד על רקע לחצים פוליטיים בארה"ב. בעולם שבו כלים כמו Midjourney או DALL-E הופכים נפוצים, השימוש בהם לשינוי תמונות של אנשים אמיתיים — בלי ידיעתם או הסכמתם — עלול לפגוע באמון.
מה זה אומר על העתיד? עבור אנשי טכנולוגיה, המקרה הזה מדגיש את הצורך במדיניות ברורה לשימוש ב-AI, במיוחד בתוכן חזותי. חברות סטארט-אפ ותאגידים גדולים צריכים ללמוד מכך: שקיפות היא לא רק עניין מוסרי, אלא גם עסקי. אם מוסד כמו סטנפורד נופל בפח, מה זה אומר על האחרים?
אולי בפעם הבאה הם פשוט יצלמו תמונה אמיתית — בלי פילטרים של AI.