הגולם הישראלי: ה-AI לומד מהעבר שלנו

תארו לכם את הגולם מפראג – אותו יצור חימר שנוצר להגן על הקהילה, אבל יצא משליטה עד שמחקו אות ממצחו. האנלוגיה הזו נשמעת אקטואלית מתמיד: היום, מערכות AI הן הגולם שלנו, אבל אנחנו חורטים עליהן "אמת" בלי לבדוק איזו אמת הן למדו. מערכות בינה מלאכותית מנהלות כיום תהליכי קבלת החלטות רגישים – ממיון מועמדים לעבודה, דרך חישוב סיכוני הלוואות, ועד הקצאת משאבים בשירותים ציבוריים. הן מבטיחות יעילות, אבל יש להן חסרון משמעותי: הן לומדות מנתונים היסטוריים, ונתונים היסטוריים משקפים את ההטיות שלנו.

מה ה-AI לומד מהעבר?

מנכ"ל חברת שירותים דיגיטליים סיפר לאחרונה שהוא רוצה לבנות סוכן AI לסינון פניות לקוחות, בהתבסס על עשר שנות הפעילות האחרונות. "תלמד על מי שהצליח אצלנו," הוא ביקש. כשבחנו את הנתונים, התברר שכולם מאותם פרופילים: אותו רקע חברתי, אותו מסלול. "אז בעצם היא תעשה מה שעשינו תמיד. רק מהר יותר," הוא אמר. ומהר יותר לא תמיד אומר הוגן יותר – זה אומר שדפוסי העבר הופכים להחלטות אוטומטיות, בלי אפשרות לערער.

מערכות AI לומדות לזהות "הצלחה" לפי דפוסים ישנים. אם בעבר גייסו רק מועמדים מיחידות מסוימות, ממוסדות מסוימים, או דרך רשתות חברתיות מסוימות, ה-AI ימצא את הדפוס הזה ויחזור עליו. הוא לא יודע מה זו "הזדמנות שווה"; הוא יודע מה הצליח עד עכשיו. זה יעיל, כן – אבל הטיות סטטיסטיות שהוא לומד יכולות להפוך להחלטות שמשפיעות על החיים של כולנו.

המקרה של Workday: תקדים משפטי

בארצות הברית, דרק מובלי, גבר שחור בשנות ה-40 לחייו עם מוגבלות, שלח קורות חיים ליותר מ-100 משרות ונדחה מכולן. הוא הבין שמשהו לא תקין ותבע את Workday, ענקית התוכנה לניהול כוח אדם שמשמשת חברות ענק למיון מועמדים. הטענה: האלגוריתם שלה מתרגם נתונים תמימים לסימנים מפלים, ומסנן מועמדים על בסיס גזע, מין וגיל.

שופטת מחוזית בקליפורניה סירבה לבטל את התביעה וקבעה תקדים: חברות כמו Workday עלולות לשאת באחריות משפטית ישירה אם הכלים שלהן מייצרים אפליה. "המחשב אשם" כבר לא תירוץ – זה אומר שצריך פיקוח אנושי רציני. הנזק הוא שההטיה הופכת שקטה יותר ויותר: בעבר אפשר היה לזהות החלטה בעייתית אצל מנהל או מגייס; היום היא מופיעה כציון, דירוג או סירוב אוטומטי. זה נראה טכני, אבל ההשפעה חברתית.

איך זה נראה בישראל?

בישראל, ההייטק אוהב לספר על עצמו כמקום של מצוינות, אבל המציאות מורכבת. גיוס עובדים מושפע מגורמים כמו יחידה צבאית, בית ספר, שם משפחה ורשתות חברתיות. כשמגדירים למערכת AI: "תלמדו את מי שגייסנו עד עכשיו," היא לומדת את הדפוסים האלה. והיא עושה את זה דרך "משתנים עקיפים" (Proxy): היא לא יודעת אם מועמד גבר או אישה, מאיזה מגזר הוא, אבל היא מסיקה את זה מנתונים אחרים – מוסד לימודים, תחביבים, ניסוחים בקורות חיים. בשבריר שנייה, מועמד ננעל במשבצת סטטיסטית, בלי לדעת למה נפסל.

וזה לא רק בגיוס. מערכות AI מחליטות איזו בקשת הלוואה תיבדק, איזו פנייה לשירות ציבורי תקבל עדיפות, ועוד. המצב החוקי בישראל אוסר באופן כללי על אפליה בקבלה לעבודה (מכוח חוק שוויון הזדמנויות בעבודה), אך אין כיום רגולציה ספציפית, נהלים מוגדרים או מנגנוני פיקוח ייעודיים מטעם המדינה על מערכות טכנולוגיות שמסננות קורות חיים. אז מי אחראי? לעתים קרובות, אף אחד.

אז מה עושים? שלושה צעדים פשוטים

הטור מציע שלושה דברים מעשיים, בלי מילים גדולות:

1. אחריות אנושית: כל ארגון, רשות ממשל או מוסד מדינה מחזיק כוח אדם מסודר וייעודי שמסביר דחיות ונותן כתובת לפונים. אנשים מקבלים סיבה אמיתית, ממשית, לא תשובה עמומה של "המערכת קבעה".

2. פיקוח חיצוני: גוף רגולטורי או בית משפט יכול להיכנס ולומר: תריצו את המערכת מולי, על נתוני בדיקה, ותראו לי את התוצאות. זה מנגנון בקרה שבודק את ה-AI בזמן אמת.

3. חוק ברור: החברה או המוסד שמפעילים את המערכת הם אלו שצריכים להוכיח שהיא לא מפלה. לא האדם שנדחה או קיבל מענה שגוי הוא שצריך להוכיח. הנטל עובר למי שמחזיק בכוח.

למה זה חשוב לכם?

כעובדי טכנולוגיה בישראל, אתם יודעים ש-AI כאן כדי להישאר. אבל אם לא נשים לב, הוא יכול להנציח הטיות ישנות – כאלה שקיימות שנים, ביחידה, באוניברסיטה, ברשת החברתית. מועמד שלא הגיע מיחידה מוכרת עלול להיפסל לפני שמישהו בדק באמת את היכולות שלו. לקוח שגר באזור מסוים עלול לקבל תנאי אשראי פחות טובים, גם אם הוא עצמו מתנהל כלכלית מצוין.

האתגר הוא לא להפסיק להשתמש ב-AI, אלא להטמיע אותו עם בקרה אנושית רצינית, כזו שמזהה הטיות בזמן ומונעת מהן להפוך להחלטות שמשפיעות על החיים של כולנו. בסופו של דבר, הגולם שלנו הוא לא ענק מפראג, אלא קוד שכתבנו במו ידינו – וצריך לוודא שהוא משרת את כולם, לא רק את מי שהצליח בעבר.