תביעה נגד Workday: ה-AI דחה מועמד שחור עם מוגבלות

דרק מובלי חשד שמשהו מוזר קורה כשטופסי המועמדות שהגיש למשרות שלכאורה התאים להן נדחו במהירות. החשד התחזק כשבאחת הפעמים קיבל תשובה שלילית פחות משעה לאחר שהגיש מועמדות, בשעה אחת בלילה. ככל שהדחיות הצטברו — יותר ממאה מהן — מובלי הבין שהמעסיקים השונים מפעילים אותה שיטת סינון, והוא צדק: כולם השתמשו במערכת לניהול גיוס עובדים של חברת התוכנה Workday.

המציאות הזו נחשפה בפניו בשנת 2023, כאשר הצטרף לתביעה נגד החברה, שהאשימה אותה בהטיות מפלות. התביעה טוענת שמערכת ה-AI של Workday פסלה אותו באופן שיטתי משום שהוא שחור, עבר את גיל 40 ומתמודד עם מוגבלות פיזית. כתב התביעה הוגש, אך הוא טרם הוכרע, ולכן כדאי למי שמחפש עבודה בארה״ב לקחת בחשבון שכלי AI כאלה נמצאים כמעט בכל מקום. יותר מ-80% מהמעסיקים בארצות הברית משתמשים כיום בבינה מלאכותית כדי לנהל את תהליכי גיוס העובדים, וזאת לפי נתוני התביעה. בפועל, זה אומר שמועמדים רבים יכולים לראות את קורות החיים שלהם נפסלים לפני שבני אדם טורחים להסתכל עליהם. השאלה המרכזית היא: איך מודל AI, שלמד מנתוני עבר, מפתח העדפות שדוחות מועמדים שאמורים להיות זכאים?

הדיון בבעיית WEIRD נוגע לכך שמודלי AI מאומנים על נתונים שמהדהדים תפיסות עולם מערביות, משכילות ולבנות. לדוגמה, החוקרים ג׳וזף הנריק, סטיבן היין וארה נורנזאיאן הראו ב-2010 ש-68% מהנבדקים במחקרים פסיכולוגיים היו אמריקאים, ו-96% הגיעו ממדינות מערביות — בדיוק כמו שה-AI כיום לומד מנתונים שמשקפים בערך 12% מאוכלוסיית העולם. זה מוביל לכך שמודל שפה, כמו המודל שבמערכות הגיוס, יכול להתאים את עצמו לתפיסות של סטודנטים אמריקאים, אבל לא לכל מועמד.

במקרה של מובלי, מדובר בפלט קונקרטי: דחיות חוזרות ונשנות. אך אפשרויות רבות יותר נשחקות: מחקרים חדשים מ-2025 מראים שמודלים עם ייצוג תרבותי רחב יותר נוטים לייצר יותר תשובות שמסווגות כפוגעניות ביחס לזכויות אדם — דבר שמוסיף ממד ערכי נסתר. מנועי גיוס AI לא מראים לנו איזו תפיסת עולם עומדת מאחורי ההחלטה שלהם, אלא רק פלט מנוסח היטב.

כל הטקסטים האלה חוזרים לרשת: לפי איגוד התקשורת הבינלאומי, 2.2 מיליארד בני אדם עדיין לא מחוברים לאינטרנט, מה שיוצר מנגנון פידבק. מודלים חדשים, כמו ChatGPT או DeepSeek, לומדים מתוכן שנוצר על ידי AI אחר, וברמות נוספות של בחירה — החל מנתוני Common Crawl, שנוטים להעדיף אנגלית, דרך תהליכי למידה שמעדיפים תשובות ״מועילות״ — ועד להחלטה העקרונית אילו ערכים חברתיים להעדיף.

לכן, התביעה נגד Workday חורגת מעוד סכסוך משפטי: היא מדגימה איך כלי AI יכולים להפוך הטיות גזעניות, גילאיות ובלתי נראות לברירת מחדל. עם זאת, פתרון ״אובייקטיבי״ עדיין רחוק. ברמת המשתמש הישראלי, אולי כדאי לזכור: כש-AI מועסק כ-bodyguard למשרה, אפילו כדי לעזור לכם בניסוח קורות חיים, לפעמים מה שהוא לא מראה לנו הוא מה שצריך להדאיג אותנו.