Sony משיקה כלי חדש לבדיקת הטיות ויעילות אתית במודלי AI
Sony השיקה את FHIBE - מערך נתונים אתי לזיהוי הטיות ב-AI, מבוסס תמונות מ-2,000 אנשים מ-80 מדינות עם הסכמה מפורשת. הבדיקות חשפו הטיות מגדריות, סטריאוטיפים גזעניים ותגובות רעילות במודלים קיימים. הכלי הציבור החדש מאפשר אבחון מעמיק של סיבות להטיות ומציע אלטרנטיבה לזיוף נתונים לא מבוקר.
Sony מציגה את FHIBE: דאטאסט מהפכני לבדיקת AI אתי
חברת Sony AI חשפה כלי חדש בשם Fair Human-Centric Image Benchmark (FHIBE) - מערך נתונים גלובלי המיועד לבדיקת הטיות והגינות במודלים של בינה מלאכותית עיבוד תמונות. הכלי, שכבר זמין לציבור, מתואר כמערך הנתונים הראשון מסוגו שמבוסס על הסכמה מפורשת של משתתפים אנושיים.
מאפייני המהפכה האתית:
- 10,000+ תמונות של כ-2,000 מתנדבים מ-80 מדינות
- אפשרות למחיקת נתונים אישיים בכל עת (Privacy by Design)
- אנוטציות מפורטות הכוללות:
- מאפיינים דמוגרפיים
- תכונות פיזיות
- פרטי סביבה
- הגדרות מצלמה
הממצאים המדאיגים:
בבדיקת מודלים קיימים, FHIBE איתר:
- הטיות מגדריות - דיוק נמוך יותר במזההי "she/her"
- סטריאוטיפים תעסוקתיים: "אפריקאים" ו"אסייתים" תויגו באופן שגוי כעבריינים
- תגובות רעילות גבוהות ב-40% כלפי גברים עם עור כהה
- שונות בתסרוקות זוהתה כגורם הטיה חדש
למה זה חשוב?
"הכלי מאפשר אבחון גרנולרי של שורשי ההטיות, לא רק איתור שלהן" - צוות המחקר של Sony
הפרויקט, שפורסם בכתב העת Nature, מציג אלטרנטיבה אתית לאיסוף נתונים פרוע ברשת, ומסמן סטנדרט חדש בתעשיית ה-AI. החברה צפוייה לעדכן את המערך בעתיד על בסיס משוב מהקהילה המדעית.