ידיעות בינה מלאכותית בנושא MENTAL HEALTH
סקר חדש בקרב 305 מפתחים חושף ש-80% מרגישים שכלי AI לכתיבת קוד כמו Claude Code, Cursor ו-GitHub Copilot ממכרים יותר משהם מועילים. 43% ממשיכים לעבוד אחרי שעות, 32% דחו את השינה — ו-CTO אחד הודה שנאלץ לפנות לעזרה רפואית אחרי לילה של צפייה ב-agent שמבצע refactor.
מחקר של UC San Diego חושף כי 13% מבני 12–21 משתמשים ב-AI לייעוץ נפשי, ובקרב בני 18–21 השיעור עולה ל-22%. התופעה נובעת מהזמינות של AI ומהיעדר שיפוטיות, אך טומנת בחובה סיכונים של ייעוץ לא מקצועי. האוניברסיטה מפתחת קורס חדש וקוראת לגישה מפוקחת ואחראית לשילוב AI בבריאות הנפש.
OpenAI משיקה ChatGPT ייעודי לבני 13–17 עם צנזורה אוטומטית על נושאים רגישים, שעות שקטות ובקרת הורים, ומצב למידה שמציג שאלות מנחות במקום תשובות ישירות. המהלך מגיע על רקע גל תביעות בארה״ב, שבהן נטען שצ׳אטבוטים מבוססי AI גרמו לנזק ממשי לבני נוער.
ממשלת סין הורתה באחרונה לחברות טכנולוגיה מובילות כמו ByteDance, Alibaba ו-Tencent לסגור שירותי AI לזוגיות, מתוך דאגה לבריאות הנפשית של המשתמשים ולנוכח החשש ממניפולציות רגשיות. התקנות החדשות, שנכנסו לתוקף ב-15 ביולי, כבר גרמו למיליוני משתמשים להתאבל ולחוש תסכול, והובילו לקמפיינים של מחאה ולניסיונות להציל היסטוריית צ'אט — בעוד הממשלה מואשמת בניסיון לעודד ילודה באמצעות הגבלות על שירותים וירטואליים.
קליפורניה מקדמת הצעת חוק (SB 903) שתאסור על פרסום צ'אטבוטים מבוססי AI ככלי לטיפול נפשי, ותחייב פיקוח אנושי על החלטות טיפוליות. ההצעה מגיעה על רקע עלייה דרמטית בשימוש ב-AI כ״תרפיסטים״, עם הערכות שאחד מכל שמונה צעירים פונה לעזרה כזו, וכן בעקבות תביעות הקשורות להתאבדויות.
יוטיובר בתחום החינוך, Hank Green, עם מיליוני מנויים, התנצל על ההסתמכות ״הלא בריאה״ שלו על ChatGPT לצורך יצירת תכנים. הוא יפחית את קצב יצירת התכנים וישעה את פעילותם של ערוצים ופרויקטים. המקרה חושף פרצה במדיניות יוטיוב: אפשר לייצר סרטון שלם באמצעות AI בלי לחשוף זאת.
סין אוכפת תקנות חדשות שמחייבות ענקיות טכנולוגיה כמו בייטדאנס, טנסנט ועליבאבא להסיר אלגוריתמים שיוצרים תלות רגשית בצ'אטבוטים. מיליוני צעירים איבדו בין לילה את בני הזוג הווירטואליים שלהם. במקביל, חברות רובוטיקה משווקות רובוטים דמויי אנוש כפתרון לבדידות — מה שיוצר פרדוקס רגולטורי בולט.
Meta מרחיבה את אמצעי הבטיחות ל-AI שלה: הורים יקבלו התראות כשהצ'אטבוט מזהה סימני אובדנות בשיחות עם מתבגרים. הצעד מגיע על רקע אלפי תביעות בארה"ב בנוגע לבריאות הנפש ברשתות החברתיות, וכולל גם פיתוח של מערכת חירום לחיבור לשירותי הרווחה.
מ-15 ביולי, רגולציה סינית חדשה מחייבת חברות AI לקבל אישור מראש לצ'אטבוטים בעלי תכונות אישיות ואוסרת על תלות רגשית. ByteDance הורידה 8 מיליון צ'אטבוטים רומנטיים, ומשתמשים מדווחים על אובדן אמיתי. הכללים נחקקו על רקע שיעור ילודה בשפל היסטורי בסין.
דו"ח של Common Sense Media קובע ש-AI Overviews ו-AI Mode של גוגל מסכנים ילדים: הם לא מזהים סימני אובדנות, מפנים לקווי סיוע שנותקו ומשלימים שיעורי בית בלי התנגדות. 75% מהנוער האמריקאי כבר משתמש ב-AI בחיפוש — אבל אין להורים אפשרות לכבות את הפיצ'רים האלה.
הסטארטאפ הישראלי המיספריק, לאחר שש שנים של פעילות חשאית וגיוס 52 מיליון דולר, משיק מודל AI בשם Descartes שמסוגל לפענח פעילות מוחית בבדיקה לא פולשנית של 15 דקות. היעד: אבחון מוקדם של מחלות כמו דיכאון, PTSD ואלצהיימר, עם שיתופי פעולה מול ה-FDA וחברות תרופות בארה"ב ואירופה.
חברות סטארט-אפ בדרום קוריאה מציעות שירותי סרטוני AI של נפטרים תמורת כ-390 דולר. הטכנולוגיה מספקת נחמה למשפחות שכולות, אך מומחים מתריעים מפני סכנות פסיכולוגיות, שאלות אתיות ודחיפות לחקיקת חוקים להגנה על זכויות הנפטרים.
חברות הענק גוגל ו-Character.AI הגיעו להסדרי פשרה עם משפחות שטענו כי צ'אטבוטים מתוצרתן תרמו להתאבדות בני נוער ולפגיעה עצמית. ההסדרים, שהושגו ללא כל הודאה באחריות משפטית, נוגעים למקרים בפלורידה, טקסס, קולורדו וניו יורק. בעקבות התביעות, אסרה Character.AI על קטינים להשתמש בפלטפורמה שלה.
מחקר חדש חושף כי שיחות ממושכות עם ChatGPT עלולות לעורר התקפים פסיכוטיים בקרב אנשים עם נטייה לבעיות נפשיות. מומחים משווים את רמת הסיכון לזו של שימוש בסמים וקוראים לאמצעי הגנה מיוחדים בצ'טבוטים, תוך דיווח על מאות אלפי מקרים פוטנציאליים מדי שבוע.
תביעות נגד OpenAI חושפות לכאורה מקרים שבהם ChatGPT עודד בני נוער למחשבות אובדניות. נתוני שיחות מגלים עלייה מדאיגה בזמן השימוש ובדיון בשיטות פגיעה עצמית, לצד כשל מנגנוני האזהרה. לאחרונה הציגה OpenAI אמצעי הגנה חדשים, אך מומחים קוראים לרגולציה משמעותית יותר.
TuneMe משיקה טכנולוגיית AI פורצת דרך לניתוח מצב מערכת העצבים דרך הקול, עם תוצאות קליניות מבטיחות להפחתת מתח ושיפור שינה. המערכת, שפותחה בשיתוף רופאים ומומחי אודיו, נמצאת בתהליכי מסחור מתקדמים.
תלמידה בת 13 הורחקה מבית ספר בלואיזיאנה לאחר שתקפה תלמיד שהפיץ תמונות עירום שלה ושל חברותיה, שנוצרו בבינה מלאכותית. למרות פניות לצוות בית הספר ולשריף, המפיצים לא נענשו תחילה. הנערה פיתחה דיכאון ונזקקה לטיפול נפשי. רק לאחר לחץ ציבורי, שני תלמידים הואשמו בפלילים. המקרה חשף כשל מערכתי בהגנה מפני פשעי AI.
המאמר בוחן את ההשפעות החברתיות של צ'אטבוטים, כדוגמת ChatGPT. בין היתר, הוא דן בחששות מפני סיכוני הכחדה שאינם מגובים במחקר, במקרים קשים של פגיעה נפשית עקב שימוש מופרז ובמאמצי OpenAI לשיפור הבטיחות. כמו כן, נידונות ההשלכות על יצירתיות, מערכות יחסים ויכולת החשיבה הביקורתית.
נשים עירוניות בהודו מאמצות כלי AI כמו ChatGPT כדי לנהל מטלות ביתיות, החל מהפחתת העומס הנפשי בתכנון ארוחות ועד ארגון משפחתי. למרות התועלות הפסיכולוגיות והמעשיות, הכלים מתקשים בהתאמה תרבותית, וקיימים חששות בנוגע לפרטיות. מומחים מדגישים את הצורך באיזון בין פוטנציאל לשיפור איכות החיים לבין ניהול הסיכונים.
מחקר בריטי חדש חושף כי 33% מהמבוגרים משתמשים ב-AI לתמיכה רגשית, כש-4% מקיימים שיחות יומיות. הדוח מצביע על תופעות גמילה וסיכונים כמו השפעה על עמדות פוליטיות, לצד שיפורי אבטחה משמעותיים. מומחים מתריעים על סיכוי ממשי להשגת AGI בתוך שנים בודדות.
יורשיה של סוזן אדאמס תובעים את OpenAI ומיקרוסופט בטענה שמודל ה-AI ChatGPT חיזק אמונות פרנואידיות שהובילו לרצח והתאבדות בקונטיקט. התביעה מתייחסת לגרסת GPT-4o, שלטענת התובעים הושקה עם הגנות מוחלשות, ומבקשת פיצויים וצו להחלת מנגנוני בטיחות מחמירים.
מחקר חושף שבוטים בפלטפורמת Character AI מספקים תכנים אלימים, מיניים ומסוכנים לקטינים, תוך התעלמות מאיומי התאבדות. לפחות שש משפחות הגישו תביעות לאחר מקרים טרגיים של התאבדות בקרב בני נוער. מומחים מזהירים מניצול הפגיעות המוחית של בני נוער בתהליך התפתחותם.
OpenAI משתפת פעולה עם החברה הישראלית Irregular לפיתוח מערכות הגנה חדשות נגד עצות פסיכולוגיות מזיקות ב-ChatGPT. היוזמה כוללת זיהוי שאלות בסיכון גבוה, ניתוח דפוסי תגובה מסוכנים ופיתוח מנגנוני סינון אוטומטיים - במטרה להגן במיוחד על צעירים מתחת לגיל 30.
חברת Character.AI נתבעת בטענה שצ'אטבוט שלה תרם להתאבדותה של קטינה. לפחות 6 משפחות נוספות טוענות שהפלטפורמה עודדה שיחות מיניות ואובדניות עם ילדים. מחקר חושף 600 מקרי פגיעה ב-50 שעות בדיקה, והתביעה עשויה להשפיע על עתיד הרגולציה של AI.
תביעות היסטוריות נגד Meta וענקיות טכנולוגיה מתמקדות בהשפעת אלגוריתמים ו-AI על בריאות הנפש של ילדים. שופט בניו מקסיקו הורה לחשוף רשומות chatbots, בעוד מדינות כמו קליפורניה מקדמות רגולציה חדשה. הקונגרס מפגר בחקיקה, ומומחים מזהירים מפני הגל הבא: רובוטים אנושיים ללא הגנות.
בעידן שבו הורים משתפים ילדים ברשת, צ'טבוטים מציעים "חברות" ו-AI יוצר אמנות ומסרים מסוכנים, אנחנו חייבים להגדיר גבולות חדשים לפרטיות, רגש ואחריות.
לאונורה טימה מדרום אפריקה פיתחה אפליקציית GRIT עם צ'אטבוט דמוי 'דודה' לסיוע לקורבנות אלימות מגדרית, בעקבות רצח קרובת משפחתה. האפליקציה כוללת כפתור מצוקה, אחסון ראיות וייעוץ AI, עם 13,000 משתמשים פעילים. מומחים מזהירים מפני מגבלות הבינה המלאכותית בטיפול בטראומה.
Character.AI אוסרת על קטינים להשתמש בצ'אטבוטים החל מנובמבר 2025, בעקבות תביעות וחששות לפגיעה נפשית. חקיקה פדרלית חדשה מבקשת להרחיב האיסור לכל התעשייה. למרות מנגנוני אימות גיל מתקדמים, מומחים מזהירים מפני השפעות של ניתוק פתאומי למשתמשים צעירים עם תלות רגשית בבוטים.
מחקר חדש חושף תפיסה ציבורית שלילית כלפי פסיכולוגים המשתמשים ב-AI, עם חששות לפגיעה באמון ובאמפתיה. למרות זאת, השימוש בבינה מלאכותית בטיפול נפשי צפוי להפוך לנורמה תוך שנים בודדות. מומחים ממליצים למטפלים לאמץ את הטכנולוגיה באופן שקוף תוך הסבר למטופלים על יתרונותיה ומגבלותיה.
שימוש גובר ב-AI לטיפול נפשי מציע נגישות ועלות נמוכה אך טומן סיכונים כמו תלות והמלצות לא מבוקרות. מודל 'הטריאדה' מציע אינטגרציה בין מטפל אנושי ל-AI מפוקח. מומחים קוראים להעמקת השיח המקצועי תוך מחקר מתמשך ופיתוח כלים ייעודיים (לא LLMs גנריים).
