DeepMind: 'ה-AI שלנו עלול לפספס אתכם בגיוס'

בגוגל אמנם משווקים לארגונים כלי AI לסינון מהיר של קורות חיים, אבל צוות הבטיחות וההתאמה ל-AGI של DeepMind מודאג מכך שהמערכות הללו עלולות לפספס מועמדים מתאימים. לפי מסמך פנימי שהגיע לידי בלומברג, הצוות מעודד מועמדים למלא טופס מיוחד עם הגשת המועמדות, כדי להבטיח שקורות החיים שלהם יגיעו לאדם אמיתי ולא יסוננו אוטומטית.

"יש לנו מערכת הגשת מועמדות שבה קיימת הסתברות לא מבוטלת שקורות החיים שלכם ייפסלו בטעות או שייקח להם זמן רב מדי להגיע אלינו", נכתב במסמך. "מילוי הטופס הזה מבטיח שאדם אמיתי בצוות יראה את המועמדות שלכם".

בנוסף, הצוות מזהיר את המועמדים משימוש ב-AI בכתיבת התשובות לשאלות הראיון. "לאותו אדם נמאס לקרוא תשובות של מודלי AI, כי כולן נשמעות אותו הדבר", נכתב. דובר מטעם DeepMind ציין שהטופס נועד לעקוף את הליך הסינון, אך הדגיש ש"אין שום קיצורי דרך להתקבל לעבודה".

הסיפור משקף דאגה רחבה יותר בתעשייה. יותר ויותר חברות מסתמכות על AI לסינון עובדים, אך עולות טענות בנוגע לדיוק ולאפליה. בדיקה של בלומברג מצאה ש-ChatGPT הראה סימנים לאפליה פוטנציאלית על סמך שמות המועמדים. בנוסף, נגד Workday הוגשה תביעה בטענה שמערכת ההשמה שלה מסננת מועמדים על בסיס גזע וגיל, אך החברה מכחישה.

בינתיים, חלק ממחפשי עבודה כבר למדו להשתמש ב-AI לטובתם כדי לבצע מניפולציות על המסננים האוטומטיים.