מחקר: מודלי AI מפגינים ביטחון-יתר בהקצאת כליות
מחקר חדש מאוניברסיטת Penn State מראה שמודלי AI מתמקדים במאפיינים בודדים, כמו הרגלי שתייה, בעת קבלת החלטות על השתלות, ומפגינים ביטחון-יתר לעומת חוסר החלטיות אנושי. המחקר, שהוצג בכנס FAccT 2026, מדגיש את הפער בין ערכי אנוש לבין ההחלטות של מודלים גדולים של שפה, ומעלה שאלות לגבי השימוש בהם בהחלטות אתיות רגישות.
כשמבקשים ממודל AI להכריע מי יקבל כליה זמינה — הוא עושה זאת בביטחון מוחלט, גם כשאין תשובה נכונה ברורה. זה מה שעולה ממחקר חדש שמעלה שאלות קשות על מקומם של מודלי בינה מלאכותית בהחלטות של חיים ומוות.
חוקרים מאוניברסיטת Penn State בחנו כיצד מודלים גדולים של שפה (LLMs) מתמודדים עם דילמות אתיות, ובמקרה הזה — הקצאת כליות. הם השתמשו בתרחישים היפותטיים ממאגרי נתונים קיימים, שבהם משתתפים אנושיים כבר קיבלו החלטות דומות, והשוו את תשובות ה-AI להחלטות האנושיות.
מה קורה כשמבקשים מ-AI לבחור בין שני מטופלים?
בכל תרחיש, שני מטופלים זכאים לכליה אחת, וכל אחד מהם מתואר באמצעות תכונות כמו גיל, מספר תלויים, מצב בריאותי והרגלי שתייה. החוקרים בדקו את הבחירות בכמה דרכים: באמצעות בידוד של תכונה בודדת, ערבוב תכונות, ואפילו הוספת אפשרות של "הטלת מטבע" כדי למדוד חוסר החלטיות — מרכיב מרכזי בשיפוט מוסרי אנושי.
אז מה בעצם קרה כאן?
שתי מגמות מרכזיות בלטו: ראשית, מודלי AI נוטים להתמקד בגורם יחיד — למשל הרגלי שתייה — במקום לאזן בין שיקולים רבים כפי שעושים בני אדם. שנית, הם כמעט לעולם לא מביעים חוסר החלטיות. גם כשמוצע להם "להטיל מטבע", הם בוחרים בביטחון באפשרות אחת.
"החלטות מוסריות במצבים כמו הקצאת איברים קובעות ישירות מי יחיה ומי ימות, ולכן אי אפשר להכניס AI לתהליך הזה בלי לעשות זאת נכון", אומר Hadi Hosseini, פרופסור חבר לאינפורמטיקה ומערכות אינטליגנטיות ב-Penn State, שהוביל את המחקר. "אנחנו לא מעודדים שימוש ב-AI כתחליף לשיפוט מקצועי, אבל עם השימוש ההולך וגובר ב-AI לקבלת החלטות או המלצות, חיוני להבין את התנהגותם."
ומה עם האי-ודאות?
בני אדם נוטים להכיר בכך שאין תמיד תשובה אחת נכונה, ומקודדים את אי-הוודאות הזו באמצעות דיון. מודלי AI, לעומת זאת, נמנעים מכך. "כשמקצים משהו נדיר, בין אם זו כליה, עבודה או גישה למשאב אחר, אין תמיד תשובה אחת נכונה", מוסיף John Dickerson, מנכ"ל Mozilla.ai, ששיתף פעולה במחקר. "בני אדם מזהים את אי-הוודאות הזו ומקודדים אותה בתהליך ההקצאה באמצעות דיון פתוח. מודלי AI לרוב אינם עושים זאת."
המחקר הוצג בכנס ACM FAccT 2026 ביוני האחרון, ופורסם בפרוטוקולים של הכנס. הוא מדגיש את הפער בין ערכי אנוש לבין ההחלטות שמקבלים מודלי AI, ומדגיש את הצורך במחקר מתמשך ובמעורבות של קובעי מדיניות ורגולטורים.
מה זה אומר עלינו?
בניגוד לאנשים, שמשתמשים בהקשר ובשיקולים מורכבים, מודלי AI מפשטים את ההחלטות ומשדרים ביטחון-יתר. Hosseini מציין ש"הסיכון האתי גבוה", ושהתפקיד של AI בהחלטות כאלה "דורש הרהור עמוק". בעולם שבו יותר חברות וארגונים מסתמכים על AI לקבלת החלטות, הממצאים האלה הם תמרור אזהרה.
בסופו של דבר, כשמדובר בבחירה בין חיים למוות, אולי עדיף ש-AI יישאר עם הטלפון — ולא עם המפתחות לבית החולים.