Stanford הודתה ששינתה תמונה ב-AI כדי ״לשפר״ את הגיוון

תמונה אחת שווה אלף מילים – אבל מה קורה כשמשתמשים ב-AI כדי לזייף את התמונה? זה מה שקרה באוניברסיטת Stanford, שם צילום שגרתי ממסיבת ראש השנה הסיני הפך לפרשה שמעלה שאלות קשות על גיוון, יושרה ושימוש לא נכון בטכנולוגיה.

מה באמת קרה שם?

הכול התחיל ב-2024, כשסטודנט בשם Billy Ramirez תועד במסיבה, עומד ליד שני סטודנטים אחרים עם צלחת אטריות. צלם מטעם האוניברסיטה צילם אותם. שנה וחצי מאוחר יותר, כשהאוניברסיטה תלתה את התמונה הזו על באנרים גדולים, Ramirez נעלם. במקומו הופיעה אישה שחורה, ושאר הסטודנטים בתמונה הורזו בעזרת עריכה דיגיטלית.

Ramirez, סטודנט ממוצא היספני, אמר בראיון: ״לראות אותי נמחק כל כך בקלות היה מאוד מתסכל. היה בזה גם אלמנט קומי, אבל בעיקר הייתי מתוסכל.״ לדבריו, הוא שמע על זה מחבר, ולא מהאוניברסיטה.

האשמה: שימוש אסור ב-AI

Stanford, באופן יוצא דופן, הודתה במעשה. בהצהרה רשמית נכתב: ״מדיניות ה-AI של Stanford ברורה: השימוש ב-AI לייצור או עיבוד תמונות של אנשים, אירועים, מחקרים, מתקנים או הישגים של Stanford אסור בהחלט. גם העריכה וגם אי-הגילוי במקרה הזה מפרים את המדיניות הזו.״

האוניברסיטה הסירה את הבאנרים והודיעה על תוכנית הכשרה נוספת לצוות כדי למנוע הישנות מקרים כאלה.

היסטוריה של זיופי גיוון

הסיפור הזה הוא לא ענן בודד, אלא חלק מתופעה רחבה יותר בעולם האקדמי. כבר ב-2000, אוניברסיטת Wisconsin-Madison שילבה סטודנט שחור על עמוד שער של חוברת הגיוס – באמצעות ״השתלתו״ לתמונה שכללה רק סטודנטים לבנים. העלות: כ-64,000 דולר אז (כ-123,000 דולר כיום) להדפסה מחדש.

ב-2019, York College of Pennsylvania הסיר שני סטודנטים לבנים מתמונה שהופיעה בשלט חוצות והחליף אותם בסטודנט אסייתי ואישה עם כיסוי ראש דתי.

גיוון כ״סחורה״ שיווקית

חוקרים שפרסמו ב-2013 בכתב העת Journal of Marketing for Higher Education ניתחו חומרי שיווק של מוסדות ומצאו שהם רמזו בדרך כלל על מספר גבוה יותר של סטודנטים שחורים מכפי שבאמת למדו בהם. המסקנה: ״העקביות שבה מוסדות מציגים תיאורים מטעים של גיוון גזעי מובילה אותנו להבנה שזה מכוון וכמעט אוניברסלי.״

הם הוסיפו: ״ברור שגיוון גזעי משמש כ׳סחורה׳ בשיווק ההשכלה הגבוהה, והצגת תמונה של גיוון חשובה יותר מייצוג מדויק של גוף הסטודנטים.״

למה זה קורה עכשיו?

האירוע ב-Stanford מתרחש על רקע פוליטי רגיש. ממשל טראמפ מפעיל לחץ על מוסדות בנוגע לתוכניות גיוון והכלה. ה״ניו יורק טיימס״ דיווח במרץ שמשרד המשפטים האמריקאי החל לבחון את שיטות הקבלה בבית הספר לרפואה של Stanford. חודש לאחר מכן, מחלקת החינוך הודיעה על חקירה בנוגע לשימוש לכאורה לא חוקי בגזע כקריטריון בתוכנית הכשרת מורים.

נתוני הרישום מראים של-Stanford היו 17,314 סטודנטים בסתיו האחרון, מתוכם 3,406 סווגו כ״מיעוטים מיוצגים בחסר״ (אזרחים אמריקנים או תושבי קבע אמריקנים) ועוד 4,431 סטודנטים בינלאומיים. Ramirez הביע ספקנות שהתמונה הערוכה מייצגת נאמנה את גוף הסטודנטים.

ומה הלקח לעולם ה-tech?

עבור מי שעובד בתעשיית ההייטק הישראלית, הסיפור הזה הוא תזכורת מוחשית לעוצמה ולסכנות של כלי AI. אנחנו מוקפים בטכנולוגיה שיודעת ליצור תמונות, סרטונים וטקסטים ריאליסטיים לחלוטין. כאנשי tech, אנחנו מבינים את המנגנון – אבל הפרשה הזו מראה שלפעמים, דווקא האנשים שאמורים להיות חלוצים של חדשנות משתמשים בה כדי לשמר דימויים מיושנים ובעייתיים.

Stanford הסירה את הבאנרים. כעת נותר לראות אם ההכשרה החדשה תמנע את ״זיוף הגיוון״ הבא, או שהפיתוי להשתמש ב-AI כדי ״לשפץ״ את המציאות חזק מדי.