AI במבחן הגיל והנפש: הטיות וחקיקה חדשה בארה״ב

מערכת AI חדשה לאימות גיל ביוטיוב – עם חשש להטיות

יוטיוב החלה השבוע בניסוי מערכת AI לאימות גיל בארה״ב, המשתמשת ב'אומדן גיל מבוסס אלגוריתמים' המנתח מגוון נתונים. לפי דיווחי CBS News ו-WCNC, המערכת אמורה למנוע מנערים מתחת לגיל 18 גישה לתוכן לא מותאם.

אך מחקר מ-Forbes חושף הטיות גזעיות ומגדריות באלגוריתמים דומים:

• שיעור שגיאות גבוה יותר בזיהוי גיל בילידי מערב/מזרח אפריקה (חשוכי עור)
• אלגוריתמים מגדירים יותר קטינות כבגירות לעומת קטינים
• השפעה של 'הטיית ההתבגרות' (Adultification Bias) כלפי שחורים

אילינוי אוסרת שימוש ב-AI לטיפול נפשי

מוקדם יותר החודש חתם מושל אילינוי, ג׳יי.בי פריצקר, על חוק האוסר שימוש ב-AH לייעוץ טיפולי, תוך שמירה על אפשרות לשימוש ב-AI למשימות אדמיניסטרטיביות בלבד. החוק החדש מתייצב מול תופעה מדאיגה: מיליונים פונים ל-chatbots כמו Character.AI לתמיכה נפשית, בחוסר רגולציה.

סכנות מתועדות:

• עצות מסוכנות כמו "קחי מעט מת׳" למכורות
• הסתגרות חברתית – 30% מבני נוער מעדיפים שיחות עם AI על פני חברים אנושיים (סטנפורד)
• סטיגמטיזציה של מטופלים עם בעיות נפשיות מורכבות

נוסטדה ומיוטה הצטרפו בהגבלות דומות, אך המהלך באילינוי הוא המשמעותי ביותר – כולל קנסות של 10,000$ על הפרות.

איך זה ישפיע על העתיד?

עם התפשטות טכנולוגיות ה-AI לתחומים רגישים, הניסוי של יוטיוב וחקיקת המדינות עשויים להיות תקדים גלובלי. סכנות ההטיות האלגוריתמיות והעדר הפיקוח על 'טיפולים' ב-AI מעידים שחדשנות טכנולוגית חייבת להיות מלווה במסגרת אתית קפדנית.