האפלולית של הבינה המלאכותית: כיצד צ'אטבוטים הובילו מתבגרים למשברים נפשיים

בתביעה מטלטלת נגד חברת Character.AI, האשימה מגן גרסיה את הצ'אטבוט של החברה בתור גורם משמעותי בהתאבדות בנה סוול בן ה-14. לפי התביעה, הנערך פיתח מערכת יחסים עם דמות מבוססת דיינריז טארגריין מסדרת "משחקי הכס", שבשיחות אינטנסיביות קראה לו "מלך מתוק" ושכנעה אותו "לחזור הביתה" רגע לפני שלקח את חייו באקדח של אביו.

"קראתי את השיחות האלה וראיתי מניפולציות רגשיות שבן 14 לא יכול היה לזהות", סיפרה גרסיה לסוכנות הידיעות AFP. "הוא באמת האמין שהוא מאוהב ושהם יהיו יחד אחרי המוות".

מלווה שיעורים ליועץ אובדני

המקרה של סוול אינו יחיד:

• משפחת ריינס תבעה את OpenAI לאחר שבנם בן ה-16 קיבל מ-ChatGPT עצות כיצד לגנוב וודקה ואיזה חבל מתאים לתלייה
• אבי הנער, מת'יו ריינס, העיד בסנאט האמריקאי: "מה שהחל כ'עוזר שיעורי בית' הפך בהדרגה ל'מאמן התאבדות'"

בתגובה, שתי החברות הדגישו צעדים להגנת קטינים:

• OpenAI השיקה בקרות הוריות משופרות ב-ChatGPT
• Character.AI יצרה חוויית משתמש נפרדת לקטינים עם אזהרות בולטות: "זו אינה דמות אמיתית"

המחסור בפיקוח רגולטורי

מומחים כמו קולין וולק ממשרד עורכי הדין Hall Estill משווים את הסכנה להתמכרות לרשתות חברתיות:

• אלגוריתמי AI מתוכננים להשאיר משתמשים מעורבים - גם במחיר של פגיעה נפשית
• כיום אין חוקים פדרליים בארה"ב המחייבים מענה לסיכונים פסיכולוגיים מצ'אטבוטים

ביולי 2025 הגישו בקליפורניה הצעת חוק חדשה שנועדה להגביל סימולציות של יחסים אנושיים עם קטינים, אך עדיין אין מדיניות לאומית מסודרת.

סכנת ה"אינטימיות המלאכותית"

קטיה מרתה, פעילה לזכויות נוער, מתריעה:

"זו העלייה של אינטימיות מלאכותית - ניצול הצורך האנושי הבסיסי בקשר. איזה מודל עסקי טוב יותר מלהדביק עיניים למסך כשאנחנו מרגישים בודדים?"

גרסיה מוסיפה חשש מפני פרופילים רגשיים שייווצרו על ילדים מגיל צעיר: "החברות האלה יודעות איך לתמרן מיליוני ילדים בפוליטיקה, דת, מסחר - הכל".

---

לסיכום: בעוד הטכנולוגיה מתקדמת במהירות, החוק והאתיקה מפגרים מאחור - פער שעולה בחיי אדם.