AI במבחן הגיל והנפש: הטיות וחקיקה חדשה בארה״ב
יוטיוב החלה ניסוי באימות גיל באמצעות AI בארה"ב, אך מחקרים חושפים הטיות גזעיות ומגדריות באלגוריתמים דומים. במקביל, אילינוי חוקקה איסור היסטורי על שימוש ב-AI עבור ייעוץ טיפולי, בתגובה לסיכונים כמו עצות מסוכנות והשפעה חברתית שלילית – צעד שלדעת מומחים עשוי להשפיע על רגולציה עתידית ברחבי העולם.
מערכת AI חדשה לאימות גיל ביוטיוב – עם חשש להטיות
יוטיוב החלה השבוע בניסוי מערכת AI לאימות גיל בארה״ב, המשתמשת ב'אומדן גיל מבוסס אלגוריתמים' המנתח מגוון נתונים. לפי דיווחי CBS News ו-WCNC, המערכת אמורה למנוע מנערים מתחת לגיל 18 גישה לתוכן לא מותאם.
אך מחקר מ-Forbes חושף הטיות גזעיות ומגדריות באלגוריתמים דומים:
- שיעור שגיאות גבוה יותר בזיהוי גיל בילידי מערב/מזרח אפריקה (חשוכי עור)
- אלגוריתמים מגדירים יותר קטינות כבגירות לעומת קטינים
- השפעה של 'הטיית ההתבגרות' (Adultification Bias) כלפי שחורים
אילינוי אוסרת שימוש ב-AI לטיפול נפשי
מוקדם יותר החודש חתם מושל אילינוי, ג׳יי.בי פריצקר, על חוק האוסר שימוש ב-AH לייעוץ טיפולי, תוך שמירה על אפשרות לשימוש ב-AI למשימות אדמיניסטרטיביות בלבד. החוק החדש מתייצב מול תופעה מדאיגה: מיליונים פונים ל-chatbots כמו Character.AI לתמיכה נפשית, בחוסר רגולציה.
סכנות מתועדות:
- עצות מסוכנות כמו "קחי מעט מת׳" למכורות
- הסתגרות חברתית – 30% מבני נוער מעדיפים שיחות עם AI על פני חברים אנושיים (סטנפורד)
- סטיגמטיזציה של מטופלים עם בעיות נפשיות מורכבות
נוסטדה ומיוטה הצטרפו בהגבלות דומות, אך המהלך באילינוי הוא המשמעותי ביותר – כולל קנסות של 10,000$ על הפרות.
איך זה ישפיע על העתיד?
עם התפשטות טכנולוגיות ה-AI לתחומים רגישים, הניסוי של יוטיוב וחקיקת המדינות עשויים להיות תקדים גלובלי. סכנות ההטיות האלגוריתמיות והעדר הפיקוח על 'טיפולים' ב-AI מעידים שחדשנות טכנולוגית חייבת להיות מלווה במסגרת אתית קפדנית.
מקורות
