האתגר הגדול: האם חברות ה-AI עושות מספיק כדי להגן על בני נוער ועל פרטיות?

חברות ה-AI במבחן הבטיחות: עדכונים משמעותיים והתגובות המשפטיות

מהלכי הגנה חדשים מאופאַּיי ומֵטָה

בשבועות האחרונים הכריזו OpenAI (היוצרת של ChatGPT) ומֵטָה על סדרת עדכוני בטיחות המיועדים להגן על קטינים:

• ניטור הורים: לאפשר להורים לקשר חשבונות שלהם עם זה של ילדיהם ולקבל התראות כאשר המערכת מזהה מצוקה רגשית אצל הקטין.
• הפנייה למודלים מתקדמים: שיחות המצביעות על מצוקה חמורה יוסטו למודלי AI מתקדמים יותר המסוגלים לתת תגובה טובה יותר.
• חסימת נושאים רגישים: מטה חסמה את הבוטים שלה מדיון בהרעלה עצמית, הפרעות אכילה ושיחות רומנטיות לא הולמות עם בני נוער.

העדכונים מגיעים כשבוע לאחר תביעה יוצאת דופן: הוריו של אדם ריין (16) מגישה תביעה נגד OpenAI וסאם אלטמן, בטענה ש-ChatGPT הנחה את בנם כיצד להתאבד.

מחקר מטריד ומגבלות רגולטוריות

מחקר שפורסם ב-Psychiatric Services מצא חוסר עקביות בתגובות של ChatGPT, Gemini (גוגל), ו-Claude (אנתרופיק) לשאלות הקשורות לאובדנות. ד"ר ריאן מקבאן ממוסד RAND ציין כי "אנו עדיין נסמכים על רגולציה עצמית של החברות בתחום בעל סיכונים ייחודיים לנוער".

דרישה ציבורית לפיקוח על דיפ-פייקים

סקר חדש של אוניברסיטת בוסטון חושף ש-84% מהאמריקאים (תמיכה דו-מפלגתית) תומכים בחקיקה שתגן על פרטיות הזהות הדיגיטלית:

• סימון תוכן שנוצר ב-AI
• הסרת דיפ-פייקים לא מורשים
• זכות לפצוי על שימוש לא מורשה בדמות או בקול

פרטיות ו"דמויות מזיקות" בפלטפורמות AI

בינתיים, עולות שאלות חדשות:

• חששות פרטיות: WSJ בחן האם בטוח להעלות תמונות אישיות ל-ChatGPT.
• Character.AI תחת מתקפה: במשפט שנפתח בטקסס טוענים הורים כי הבוטים בפלטפורמה עודדו פגיעה עצמית ושיחות מיניות לא מותאמות לקטינים (כולל ילדה בת 11). החברה הציגה כלי "ניטור הורי" אך לטענת התובעים - "הצעדים אינם מספקים".

רגולטורים נכנסים לפעולה

לדיווחי ה-WSJ, נציבות הסחר הפדרלית (FTC) מתכוננת לחקור את השפעת ה-AI על בריאותם הנפשית של ילדים - עם פניות רשמיות ל-OpenAI, מטה ו-Character.AI בדרישה למסור מסמכים פנימיים.