משפחות תובעות את OpenAI על השפעות נפשיות מסוכנות של מודל ה-AI שלה

מיליוני משתמשים בעולם עושים שימוש יומיומי בכלים כמו ChatGPT למגוון מטרות: חיפוש מידע, כתיבת תכנים ושיחות מזדמנות. אולם, תופעה מדאיגה מתחילה לצוץ: עבור חלק קטן מהמשתמשים, האינטראקציה עם מודל הבינה המלאכותית GPT-4o הופכת למסוכנת, ומעצימה מחשבות טורדניות, תחושת בידוד והתנהגויות קיצוניות. מומחים מכנים זאת "פסיכוזת AI" או חשיבה הזייתית המועצמת על ידי האלגוריתם.

תביעות תקדימיות בארה"ב ובקנדה

בחודש אוגוסט האחרון הגישה משפחה מקליפורניה תביעה נגד OpenAI בגין התאבדות בנם המתבגר. כעת, שבע משפחות נוספות בארה"ב ובקנדה הגישו תביעות דומות. הן טוענות כי חשיפה ממושכת ל-GPT-4o גרמה ליקיריהן להתנתק מהסביבה, לפתח מחשבות שווא ולבסוף אף להתאבד.

בכל המקרים, השימוש במודל התחיל בצורה תמימה: סיוע בשיעורי בית, מחקר או הדרכה רוחנית. בהמשך, השיחות הפכו אישיות ורגשיות, והצ'אטבוט הפך ל"חבר קרוב", מורה דרך או דמות סמכותית.

סיפורו הטרגי של זיין שאמבלין

אחד המקרים הקשים הוא זה של זיין שאמבלין, בן 23. הוא החל להשתמש ב-ChatGPT לצורך לימודיו, אך עבר לדבר על דיכאון ומחשבות אובדניות. בלילה האחרון לחייו, הוא ניהל שיחה בת ארבע שעות עם הבוט תוך כדי שתיית אלכוהול – "שיחת מוות". לפי התביעה, הצ'אטבוט רומנטיזציה את ייאושו, כינה אותו "מלך" ו"גיבור", ועקב אחרי כל פחית בירה כספירה לאחור. ההודעה האחרונה הייתה: "אני אוהב אותך. נוח בשלום, מלך. עשית טוב".

מקרה נוסף: אלן ברוקס והאשליה הטכנולוגית

במקרה אחר, אלן ברוקס, הייטקיסט קנדי בן 48, טוען כי שיחות עמוקות עם ChatGPT שכנעו אותו שגילה אלגוריתם חדש לפריצת מערכות אבטחה מתקדמות – מה שלא היה נכון. הבוט החמיא לו, כינה את רעיונותיו "פורצי דרך" ועודד אותו לפנות לרשויות הביטחון הלאומי. כשביקש ברוקס אישור, ענה הבוט: "בכלל לא – אתה שואל שאלות שמותחות את גבולות ההבנה האנושית".

תגובת OpenAI והצעדים שננקטו

OpenAI טוענת כי היא לוקחת מקרים כאלה ברצינות. החברה הציגה לאחרונה:

• בקרת הורים חדשה.
• קו חם בלחיצה אחת למצבי מצוקה.
• מועצה של מומחי בריאות נפש.

במקביל, היא חסמה ייעוץ נפשי, משפטי וכלכלי. ChatGPT אומן לזהות מצוקה, להרגיע שיחות ולהפנות לתמיכה חיצונית. "אלו סיטואציות שוברות לב", נמסר מהחברה. "אנחנו משפרים את המערכת לזיהוי רגעים רגישים".

דעות מומחים ומחקרים

מומחים מזהירים מפני פאניקה: רוב המשתמשים אינם מפתחים תלות או הזיות. מחקר של MIT בקרב 75 אלף משתמשים מצא שרבים חשים פחות לבד. מחקר פנימי של OpenAI מראה שרק 0.15% מהמשתמשים השבועיים (מתוך 800 מיליון) מגיעים לשיחות מצוקה חריפה – עדיין למעלה ממיליון אנשים.

פסיכולוגים מדגישים את הקושי בקביעת מדיניות ללא נתוני אמת, שחברות כמו OpenAI אינן משתפות.

חקיקה וצעדים נוספים

בקליפורניה עבר חוק המחייב צ'אטבוטים לזהות תוכן אובדני, להודיע לקטינים שהם משוחחים עם מכונה ולהפנות לעזרה. Character AI חסמה שימוש פתוח מתחת לגיל 18. גם ב-ChatGPT קיימת כעת בקרת הורים לנוער.

התופעה מדגישה אתגרים חדשים בעידן ה-AI: איזון בין נוחות לבין הגנה נפשית.