כלי AI חדש ממדעני Mount Sinai נלחם בהטיות נתונים לטובת אלגוריתמי בריאות הוגנים

AEquity: הכלי שמאתר הטיות בנתוני רפואה לפני אימון בינה מלאכותית

חוקרים מבית הספר לרפואה Icahn ב-Mount Sinai פיתחו כלי חדשני בשם AEquity שמאתר ומתקן הטיות בנתונים רפואיים עוד לפני שאלה משמשים לאימון אלגוריתמי AI.

למה זה חשוב?

• אלגוריתמי הבריאות עלולים להנציח אי-דיוקים כאשר קבוצות אוכלוסייה מסוימות מיוצגות בחסר בנתוני האימון
• הטיות כאלה עלולות להוביל לאבחונים שגויים ולהחלטות טיפוליות לא מותאמות
• הכלי נבדק בהצלחה על מגוון נתונים: תמונות רפואיות, רשומות חולים וסקרי בריאות לאומיים

איך זה עובד?

AEquity מסוגל:

1. לזהות הטיות מובנות (גם כאלה שלא זוהו בעבר)
2. לעבוד עם סוגים שונים של מודלים - מפשוטים עד מערכות מתקדמות כמו LLMs
3. לבחון הן את נתוני הקלט (למשל צילומי רנטגן) והן את תוצאות האלגוריתם (אבחנות צפויות)

"המטרה שלנו היא לוודא שכלים אלה יעבדו היטב בעבור כולם, לא רק בעבור הקבוצות המיוצגות ביותר בנתונים"

• ד"ר Faris Gulamali, מחבר מחקר ראשי

השלכות מעשיות

לכלי פוטנציאל ליישום בשלבים שונים:

• פיתוח אלגוריתמים
• ביקורות טרום פריסה
• שיפור ההוגנות הכללית של AI רפואי

"זהו צעד חשוב בבניית מערכות AI הוגנות יותר, אך לא מספיק בפני עצמו"

• ד"ר Girish Nadkarni, חוקר בכיר בפרויקט

המחקר מומן על ידי המכונים הלאומיים לבריאות בארה"ב (NIH) ופורסם בכתב העת JMIR.