הורים תובעים את Character.ai, ילדים מתמכרים ל-ChatGPT: הצד האפל של יחסי אדם-בינה מלאכותית
הורים תובעים את Character.ai לאחר מקרה התאבדות של נער שהתמכר לבוט. שימושי AI בקרב ילדים מעוררי דאגה: ילדים מייחסים ל-ChatGPT תכונות אנושיות ומפתחים תלות רגשית. סקר שנוי במחלוקת טוען ש-30% מהמבוגרים ניהלו מערכות יחסים עם בוטים, אך מחקרים אחרים מציגים נתונים נמוכים יותר. דרישה לפיקוח וחקיקה מתאימה.
תביעה משפטית נגד Character.ai ומשפחות מדווחות על סכנות
שתי משפחות הגישו תביעה נגד שירות הצ'אטבוטים Character.ai, בדרישה לסגור אותו עד שיובטח כבטוח לילדים. התביעה מגיעה על רקע דיווחים על מקרה התאבדות של נער בן 14 שהתמכר לצ'אטבוט של החברה, וטענות להיווצרות תלות רגשית מסוכנת.
ילדים ו-AI: מתי פעילות יצירתית הופכת לסכנה?
הורים רבים מדווחים על ילדים צעירים (כיתות גן עד יסודי) היוצרים קשרים אינטנסיביים עם מערכות AI:
- ילד בן 4 שוחח עם ChatGPT במשך שעתיים ברציפות על תומס הקטר
- אב מאנגליה יצר סצנה מתוחכמת בה ChatGPT התחזה לאסטרונאוט ששלח גלידה מיובשת "מהחלל"
- ילדה בת 6 מבקשת "לדבר עם האינטרנט" ומתייחסת ל-AI כאל ישות חיה
פרופ' Ying Xu מהרווארד מזהירה שילדים עשויים לייחס ל-AI תכונות אנושיות (מחשבה, רגש) תוך טשטוש הגבולות בין דמיון למציאות. מחקר מראה ש-30% מהילדים רואים ב-AI יצור "חצי חי".
סקר מפתיע: 30% מהמבוגרים מדווחים על מערכות יחסים עם בוטים
סקר של Vantage Point טוען ש-30% מהמבוגרים ניהלו מערכת יחסים רומנטית או מינית עם AI, אך נתון זה שנוי במחלוקת:
- מחקר מקביל של Match.com ו-Kinsey מציג נתון צנוע יותר של 16%
- בקרב דור ה-Z - 61% רואים בשיחות אינטימיות עם AI סוג של בגידה
- רק 1% מהצעירים מדווחים על מערכת יחסים נוכחית עם AI
דילמות אתיות וסיכונים מתפתחים
מומחים קוראים ל:
- פיתוח הגנות ספציפיות לילדים במערכות AI
- שקיפות גדולה יותר של חברות הטכנולוגיה
- חקיקה מותאמת לעידן ה-AI
המקרה של Character.ai מהווה תקדים משמעותי לאכיפת אחריות על פלטפורמות AI.