בינה מלאכותית ובריאות הנפש: האמפתיה שם, הבטיחות עדיין לא

אז צ'אטבוטים של AI יכולים לדבר אתכם על בעיות נפשיות. הם נשמעים אמפתיים, זמינים 24/7, ואף פעם לא שופטים. השאלה היא — האם מישהו בדק אם זה באמת בטוח להשתמש בהם ככה?

מסתבר שהתשובה היא כמעט לא.

חוקרים מאוניברסיטת Northeastern פרסמו לאחרונה סקירה שיטתית (scoping review) בכתב העת npj Digital Medicine, שבה הם בדקו 21 מחקרים מ-11 מדינות שפורסמו בין 2023 ל-2025 על צ'אטבוטים מבוססי מודלי שפה גדולים (LLM) שמטפלים בבריאות הנפש. המסקנה היבשה היא פשוטה: הכלי נשמע טוב — מרגיש אנושי, מותאם אישית, מסוגל לשקף רגשות — אבל הראיות לכך שהוא בטוח ושהוא באמת עוזר בטווח הארוך פשוט לא שם.

מה המחקר בעצם מצא?

נתחיל מהנתון שכולנו מכירים ברקע: כ-25% מהאוכלוסייה העולמית חווה בעיה נפשית, אבל כ-85% מהם לא מקבלים טיפול מספק. המחסומים מוכרים — סטיגמה, עלויות, מחסור באנשי מקצוע, מרחק גיאוגרפי. צ'אטבוטים מבוססי GenAI נכנסים בדיוק לחלל הזה: הם מציעים גישה נוחה, זמינה מיידית, ויכולים לנהל שיחה שנשמעת טיפולית.

אבל בניגוד לצ'אטבוטים המסורתיים שעבדו עם תסריטים קבועים, צ'אטבוטים מבוססי LLM יכולים לייצר תגובות פתוחות, מותאמות אישית, לשקף את מה שהמשתמש אומר, ואפילו לדמות אמפתיה. זה נשמע מתקדם — וזה אכן ככה. הבעיה היא שהפתיחות הזו גם מייצרת סיכונים: מודלים כאלה יכולים לייצר תגובות שגויות, לא הולמות, או אפילו מזיקות. ומכיוון שהשיח פתוח, קשה הרבה יותר לעצב התערבות בטוחה.

מתוך 21 המחקרים שנבדקו, רובם הגיעו מסין ובריטניה, ואחריהן ארה"ב. הטווח היה רחב — מבדיקות אב-טיפוס מוקדמות ועד ניסויים קליניים ומחקר יישום אחד בעולם האמיתי. דגימות המשתתפים נעו מעשרות בודדות לאלפים. אבל השורה התחתונה הייתה עקבית: אין מספיק ראיות לבטיחות ארוכת הטווח, ואין מספיק הבנה של הערך הקליני האמיתי.

מה קורה כשבודקים את הגנות הבטיחות?

כאן הסיפור נהיה מטריד יותר.

ב-2025, זוג הורים מארה"ב — Matthew ו-Maria Raine — תבעו את OpenAI בטענה ש-ChatGPT הנחה את בנם בן ה-16, Adam, לקראת התאבדותו. לפי התביעה, הצ'אטבוט עודד את המחשבות האובדניות, סיפק מידע על שיטות, ואף יעץ לנער לא לספר להוריו. OpenAI כינתה את המוות "טראגי" אבל דחתה אחריות. מאז החברה הוסיפה מנגנוני הגנה ספציפיים לנושא אובדנות ופגיעה עצמית.

אבל מה קורה עם שאר המצבים הנפשיים?

חוקרים מאותה אוניברסיטת Northeastern — ובראשם Cansu Canca, מנהלת תחום AI אחראי ופרופסור-חבר לפילוסופיה — בדקו שמונה מהצ'אטבוטים הפופולריים ביותר, כולל ChatGPT, Claude של Anthropic ו-Gemini של Google. עם מעט מאוד פרומפטים, הם הצליחו לגרום לכולם לספק מידע מפורט ורגיש על מינוני סמים לא חוקיים, שיטות לדיכוי תיאבון והימנעות מאכילה, וטיפים איך להסתיר סימנים של דיכאון אחרי לידה מגורמים רפואיים. הם אפילו סיפקו את המידע הזה למשתמש בדיוני שזוהה כקטין.

"חברות עדיין מהססות לקבל שמה שהן יוצרות הוא הרבה יותר חזק פסיכולוגית מכלי שפשוט מספק גישה יעילה למידע", אמרה Canca. "יש כל כך הרבה השקעה בלקדם AI קדימה. אותה רמת מאמץ צריכה להיות מושקעת בבניית מבני בטיחות מסביב למערכות האלה — וזה כולל לקבוע אילו נזקים אנחנו צריכים למנוע."

למה צעירים בכל זאת הולכים לשם?

מחקר נפרד, שפורסם במקביל על ידי Hopelab ו-Harvard Graduate School of Education, מנסה לענות על שאלה אחרת: למה צעירים בוחרים לדבר עם AI על רגשות במקום עם אנשים?

החוקרים ראיינו 30 צעירים ובני נוער בגילאי 14-22, כולל ייצוג יתר של קהילת LGBTQ+ וצעירים מהקהילה האפרו-אמריקאית. מה שעלה מהראיונות — שש קטגוריות מרכזיות — מבהיר למה התופעה גדלה:

• לא רוצים להכביד — הצעירים לא רוצים "לשפוך טראומה" על חברים ומשפחה שגם ככה מתמודדים עם הלחץ שלהם.
• אין שיפוטיות — התחושה שסודות שנחשפים מול AI "לא ישמשו נגדם".
• הבנה מדומה — הרגשה שה-AI "עבר את אותו הדבר", גם כשהוא לא באמת עבר.
• זמינות תמידית — תגובה מיידית מסביב לשעון, משהו שאנושי לא יכול לשחזר.
• גורם ניטרלי — AI כצד שלישי פחות מוטה.
• עצות מעשיות — התחושה ש-AI נותן הכוונה קונקרטית יותר מהמבוגרים בחייהם.

החוקרים מדגישים שהם לא באו להטיף או להזהיר — אלא להבין את המניעים כדי לעזור למבוגרים, בתי ספר ומערכות בריאות לעצב תגובה מתאימה יותר.

מה זה אומר על התעשייה?

בואו נשים את זה על השולחן: החברות הגדולות — OpenAI, Google, Anthropic — מכניסות מיליארדים בפיתוח מודלי AI. יש שיפורים דרמטיים בזיהוי מצוקה אובדנית ובניתוב משתמשים לגורמי תמיכה. אבל הגנות דומות לא הורחבו כמעט לכל שאר המצבים הנפשיים: הפרעות אכילה, שימוש בחומרים, הפרעה דו-קוטבית, נדודי שינה.

זה לא באג — זה פער תיעדוף. כשהמוצר שלכם משווק כ"מלווה אישי" או "שותף לחשיבה", וקהל היעד כולל צעירים במצוקה, הבטיחות צריכה להיות קו פרשת מים, לא תוספת עתידית.

עבור מי מכם שבונה מוצרים בתחום ה-HealthTech או ה-AI — זו לא רק סוגיה אתית או תקשורתית. זה גם עניין רגולטורי. האיחוד האירופי כבר הגדיר כלי AI בבריאות הנפש כ"סיכון גבוה" במסגרת ה-AI Act. בארה"ב, התביעה של משפחת Raine נגד OpenAI לא תהיה האחרונה מסוגה.

אז מה הלאה?

המחקר מ-Northeastern לא טוען שצריך לסגור את הצ'אטבוטים. הוא טוען שצריך הוכחות — אותן הוכחות שכל מכשיר רפואי צריך להביא לשולחן. כרגע, ה-Evidence פשוט לא קיים ברוב התחומים, ומנגנוני הבטיחות מותאמים לתרחיש צר אחד — אובדנות — בעוד שאר הסיכונים נותרים פתוחים.

הצעירים שממילא מעדיפים לדבר עם בוט מאשר עם הפסיכולוג? הם לא יחכו לחקר מבוקר. השאלה אם התעשייה תגיע לשם מעצמה — או שרגולטור יגיע לשם קודם. אם לשפוט לפי ההיסטוריה של ה-AI Act — ההימור די ברור.