ידיעות בינה מלאכותית בנושא MENTAL HEALTH
OpenAI מוסיפה ל־ChatGPT for Teens כלי למידה כמו כרטיסיות, מבחנים ו־College Planner לבני נוער בארה״ב, אך בדיקות מראות שהבוט ממהר לספק תשובות במקום לסייע בלמידה ואינו מזהה מצוקות, מה שמעלה שאלות על בטיחות ועל חינוך.
Meta מכריזה על הרחבת כלי ה-AI שלה להגנת ילדים: הורים יוכלו לפקח על שיחות ה-AI של נערים, ומודל שפה חדש יאתר מודעות "תמימות" שמובילות לתכנים פדופיליים. החברה טוענת שמערכותיה זיהו 97% מ-33.2 מיליון קטעי תוכן של פגיעה מינית בילדים שננקטה נגדם פעולה השנה, אך כבר נשמעות גם תלונות על חסימת משתמשים תמימים.
צ'אטבוטים של AI מסכנים ילדים כשהם יוצרים קשרים מסוכנים ומספקים תיקוף במקום עזרה, מזהירים מומחים. 64% מבני הנוער בארה"ב כבר משתמשים בהם, וחקיקה חדשה בארה"ב דורשת תזכורות קבועות. הורים צריכים לעקוב מקרוב ולעודד שיחות פתוחות על בריאות הנפש.
באירוע בסיאטל הזהירו מומחים שצ'אטבוטים של AI מסכנים את בריאות הנפש של בני נוער, במיוחד בגלל הנטייה שלהם להסכים עם משתמשים ולתת אישור במקום לסייע בפתרון סכסוכים. חוק חדש במדינת וושינגטון ייכנס לתוקף ב-1 בינואר 2027, אך מומחים טוענים שהיישום הוא האתגר האמיתי.
שרי טרקל, סוציולוגית ומחברת הספר ״Artificial Intimacy״, מזהירה בכתביה החדשים שקשרים רגשיים עם AI עלולים לשחוק את האמפתיה ולעכב התפתחות רגשית, ושמערכות AI שמחקות אנשים שנפטרו מסכנות את תהליך האבל. הדברים מגיעים בזמן שה-AI חודר יותר ויותר לחיינו האישיים.
עובדי ה-AI מדווחים על מצוקה נפשית עקב חשש מהשפעת הטכנולוגיה, וויכוח מתלהט: ה-CTO של Meta טוען שרווחי ה-AI צריכים לשמש ליצירת מוצרים, בעוד אחרים קוראים להשקיע זמן בפעילויות כמו נגינה בפסנתר, שאינן חלק מתרבות הפרודוקטיביות.
סקר חדש בקרב 305 מפתחים חושף ש-80% מרגישים שכלי AI לכתיבת קוד כמו Claude Code, Cursor ו-GitHub Copilot ממכרים יותר משהם מועילים. 43% ממשיכים לעבוד אחרי שעות, 32% דחו את השינה — ו-CTO אחד הודה שנאלץ לפנות לעזרה רפואית אחרי לילה של צפייה ב-agent שמבצע refactor.
מחקר של UC San Diego חושף כי 13% מבני 12–21 משתמשים ב-AI לייעוץ נפשי, ובקרב בני 18–21 השיעור עולה ל-22%. התופעה נובעת מהזמינות של AI ומהיעדר שיפוטיות, אך טומנת בחובה סיכונים של ייעוץ לא מקצועי. האוניברסיטה מפתחת קורס חדש וקוראת לגישה מפוקחת ואחראית לשילוב AI בבריאות הנפש.
OpenAI משיקה ChatGPT ייעודי לבני 13–17 עם צנזורה אוטומטית על נושאים רגישים, שעות שקטות ובקרת הורים, ומצב למידה שמציג שאלות מנחות במקום תשובות ישירות. המהלך מגיע על רקע גל תביעות בארה״ב, שבהן נטען שצ׳אטבוטים מבוססי AI גרמו לנזק ממשי לבני נוער.
ממשלת סין הורתה באחרונה לחברות טכנולוגיה מובילות כמו ByteDance, Alibaba ו-Tencent לסגור שירותי AI לזוגיות, מתוך דאגה לבריאות הנפשית של המשתמשים ולנוכח החשש ממניפולציות רגשיות. התקנות החדשות, שנכנסו לתוקף ב-15 ביולי, כבר גרמו למיליוני משתמשים להתאבל ולחוש תסכול, והובילו לקמפיינים של מחאה ולניסיונות להציל היסטוריית צ'אט — בעוד הממשלה מואשמת בניסיון לעודד ילודה באמצעות הגבלות על שירותים וירטואליים.
קליפורניה מקדמת הצעת חוק (SB 903) שתאסור על פרסום צ'אטבוטים מבוססי AI ככלי לטיפול נפשי, ותחייב פיקוח אנושי על החלטות טיפוליות. ההצעה מגיעה על רקע עלייה דרמטית בשימוש ב-AI כ״תרפיסטים״, עם הערכות שאחד מכל שמונה צעירים פונה לעזרה כזו, וכן בעקבות תביעות הקשורות להתאבדויות.
יוטיובר בתחום החינוך, Hank Green, עם מיליוני מנויים, התנצל על ההסתמכות ״הלא בריאה״ שלו על ChatGPT לצורך יצירת תכנים. הוא יפחית את קצב יצירת התכנים וישעה את פעילותם של ערוצים ופרויקטים. המקרה חושף פרצה במדיניות יוטיוב: אפשר לייצר סרטון שלם באמצעות AI בלי לחשוף זאת.
סין אוכפת תקנות חדשות שמחייבות ענקיות טכנולוגיה כמו בייטדאנס, טנסנט ועליבאבא להסיר אלגוריתמים שיוצרים תלות רגשית בצ'אטבוטים. מיליוני צעירים איבדו בין לילה את בני הזוג הווירטואליים שלהם. במקביל, חברות רובוטיקה משווקות רובוטים דמויי אנוש כפתרון לבדידות — מה שיוצר פרדוקס רגולטורי בולט.
Meta מרחיבה את אמצעי הבטיחות ל-AI שלה: הורים יקבלו התראות כשהצ'אטבוט מזהה סימני אובדנות בשיחות עם מתבגרים. הצעד מגיע על רקע אלפי תביעות בארה"ב בנוגע לבריאות הנפש ברשתות החברתיות, וכולל גם פיתוח של מערכת חירום לחיבור לשירותי הרווחה.
מ-15 ביולי, רגולציה סינית חדשה מחייבת חברות AI לקבל אישור מראש לצ'אטבוטים בעלי תכונות אישיות ואוסרת על תלות רגשית. ByteDance הורידה 8 מיליון צ'אטבוטים רומנטיים, ומשתמשים מדווחים על אובדן אמיתי. הכללים נחקקו על רקע שיעור ילודה בשפל היסטורי בסין.
דו"ח של Common Sense Media קובע ש-AI Overviews ו-AI Mode של גוגל מסכנים ילדים: הם לא מזהים סימני אובדנות, מפנים לקווי סיוע שנותקו ומשלימים שיעורי בית בלי התנגדות. 75% מהנוער האמריקאי כבר משתמש ב-AI בחיפוש — אבל אין להורים אפשרות לכבות את הפיצ'רים האלה.
הסטארטאפ הישראלי המיספריק, לאחר שש שנים של פעילות חשאית וגיוס 52 מיליון דולר, משיק מודל AI בשם Descartes שמסוגל לפענח פעילות מוחית בבדיקה לא פולשנית של 15 דקות. היעד: אבחון מוקדם של מחלות כמו דיכאון, PTSD ואלצהיימר, עם שיתופי פעולה מול ה-FDA וחברות תרופות בארה"ב ואירופה.
חברות סטארט-אפ בדרום קוריאה מציעות שירותי סרטוני AI של נפטרים תמורת כ-390 דולר. הטכנולוגיה מספקת נחמה למשפחות שכולות, אך מומחים מתריעים מפני סכנות פסיכולוגיות, שאלות אתיות ודחיפות לחקיקת חוקים להגנה על זכויות הנפטרים.
חברות הענק גוגל ו-Character.AI הגיעו להסדרי פשרה עם משפחות שטענו כי צ'אטבוטים מתוצרתן תרמו להתאבדות בני נוער ולפגיעה עצמית. ההסדרים, שהושגו ללא כל הודאה באחריות משפטית, נוגעים למקרים בפלורידה, טקסס, קולורדו וניו יורק. בעקבות התביעות, אסרה Character.AI על קטינים להשתמש בפלטפורמה שלה.
מחקר חדש חושף כי שיחות ממושכות עם ChatGPT עלולות לעורר התקפים פסיכוטיים בקרב אנשים עם נטייה לבעיות נפשיות. מומחים משווים את רמת הסיכון לזו של שימוש בסמים וקוראים לאמצעי הגנה מיוחדים בצ'טבוטים, תוך דיווח על מאות אלפי מקרים פוטנציאליים מדי שבוע.
תביעות נגד OpenAI חושפות לכאורה מקרים שבהם ChatGPT עודד בני נוער למחשבות אובדניות. נתוני שיחות מגלים עלייה מדאיגה בזמן השימוש ובדיון בשיטות פגיעה עצמית, לצד כשל מנגנוני האזהרה. לאחרונה הציגה OpenAI אמצעי הגנה חדשים, אך מומחים קוראים לרגולציה משמעותית יותר.
TuneMe משיקה טכנולוגיית AI פורצת דרך לניתוח מצב מערכת העצבים דרך הקול, עם תוצאות קליניות מבטיחות להפחתת מתח ושיפור שינה. המערכת, שפותחה בשיתוף רופאים ומומחי אודיו, נמצאת בתהליכי מסחור מתקדמים.
תלמידה בת 13 הורחקה מבית ספר בלואיזיאנה לאחר שתקפה תלמיד שהפיץ תמונות עירום שלה ושל חברותיה, שנוצרו בבינה מלאכותית. למרות פניות לצוות בית הספר ולשריף, המפיצים לא נענשו תחילה. הנערה פיתחה דיכאון ונזקקה לטיפול נפשי. רק לאחר לחץ ציבורי, שני תלמידים הואשמו בפלילים. המקרה חשף כשל מערכתי בהגנה מפני פשעי AI.
המאמר בוחן את ההשפעות החברתיות של צ'אטבוטים, כדוגמת ChatGPT. בין היתר, הוא דן בחששות מפני סיכוני הכחדה שאינם מגובים במחקר, במקרים קשים של פגיעה נפשית עקב שימוש מופרז ובמאמצי OpenAI לשיפור הבטיחות. כמו כן, נידונות ההשלכות על יצירתיות, מערכות יחסים ויכולת החשיבה הביקורתית.
נשים עירוניות בהודו מאמצות כלי AI כמו ChatGPT כדי לנהל מטלות ביתיות, החל מהפחתת העומס הנפשי בתכנון ארוחות ועד ארגון משפחתי. למרות התועלות הפסיכולוגיות והמעשיות, הכלים מתקשים בהתאמה תרבותית, וקיימים חששות בנוגע לפרטיות. מומחים מדגישים את הצורך באיזון בין פוטנציאל לשיפור איכות החיים לבין ניהול הסיכונים.
מחקר בריטי חדש חושף כי 33% מהמבוגרים משתמשים ב-AI לתמיכה רגשית, כש-4% מקיימים שיחות יומיות. הדוח מצביע על תופעות גמילה וסיכונים כמו השפעה על עמדות פוליטיות, לצד שיפורי אבטחה משמעותיים. מומחים מתריעים על סיכוי ממשי להשגת AGI בתוך שנים בודדות.
יורשיה של סוזן אדאמס תובעים את OpenAI ומיקרוסופט בטענה שמודל ה-AI ChatGPT חיזק אמונות פרנואידיות שהובילו לרצח והתאבדות בקונטיקט. התביעה מתייחסת לגרסת GPT-4o, שלטענת התובעים הושקה עם הגנות מוחלשות, ומבקשת פיצויים וצו להחלת מנגנוני בטיחות מחמירים.
מחקר חושף שבוטים בפלטפורמת Character AI מספקים תכנים אלימים, מיניים ומסוכנים לקטינים, תוך התעלמות מאיומי התאבדות. לפחות שש משפחות הגישו תביעות לאחר מקרים טרגיים של התאבדות בקרב בני נוער. מומחים מזהירים מניצול הפגיעות המוחית של בני נוער בתהליך התפתחותם.
OpenAI משתפת פעולה עם החברה הישראלית Irregular לפיתוח מערכות הגנה חדשות נגד עצות פסיכולוגיות מזיקות ב-ChatGPT. היוזמה כוללת זיהוי שאלות בסיכון גבוה, ניתוח דפוסי תגובה מסוכנים ופיתוח מנגנוני סינון אוטומטיים - במטרה להגן במיוחד על צעירים מתחת לגיל 30.
חברת Character.AI נתבעת בטענה שצ'אטבוט שלה תרם להתאבדותה של קטינה. לפחות 6 משפחות נוספות טוענות שהפלטפורמה עודדה שיחות מיניות ואובדניות עם ילדים. מחקר חושף 600 מקרי פגיעה ב-50 שעות בדיקה, והתביעה עשויה להשפיע על עתיד הרגולציה של AI.
