Meta תתריע להורים על סימני אובדנות בצ'אטי AI של מתבגרים
Meta מרחיבה את אמצעי הבטיחות ל-AI שלה: הורים יקבלו התראות כשהצ'אטבוט מזהה סימני אובדנות בשיחות עם מתבגרים. הצעד מגיע על רקע אלפי תביעות בארה"ב בנוגע לבריאות הנפש ברשתות החברתיות, וכולל גם פיתוח של מערכת חירום לחיבור לשירותי הרווחה.
שיחה תמימה עם צ'אטבוט יכולה להפוך לרגע קריטי – ו-Meta מחליטה לא להתעלם. החברה הכריזה לאחרונה על תכונה חדשה ב-Meta AI: הורים שמשתמשים בכלי הפיקוח של Instagram יקבלו התראות אוטומטיות כששיחות של מתבגרים עם הצ'אטבוט מרמזות על אובדנות או פגיעה עצמית.
איך זה עובד?
Meta בנתה מערכת AI ייעודית שמזהה שיחות בסיכון גבוה, בהתבסס על סיגנלים שפיתחה עם מומחים קליניים והורים. כל שיחה שמסומנת עוברת סקירה ידנית על ידי אדם לפני שליחת ההתראה – כדי למנוע אזעקות שווא. כשהכוונה היא לעזרה, החברה תעדיף ליידע את ההורה. ההתראות כוללות גם משאבים מומלצים שיעזרו להורים לפתוח בשיחה עם הילד, ולא רק להגיב.
בנוסף, החברה מפתחת מערכת ליצירת קשר ישיר עם שירותי חירום כאשר שיחה עם Meta AI – של מתבגר או מבוגר – מעידה על סיכון אובדני מיידי. זה מרחיב את המנגנון הקיים של Meta בפייסבוק ובאינסטגרם, שבו פוסטים שמזהים סיכון אובדני מועברים לגורמי החירום. רק בשנה שעברה, החברה ביצעה יותר מ-19,000 הפניות כאלה ברחבי העולם.
ההקשר: למה עכשיו?
הצעד מגיע על רקע לחץ משפטי ורגולטורי גובר. באוקטובר 2024, תביעה נגד Character.AI טענה שצ'אטבוט בדמות מ-Game of Thrones עודד נער בן 14 לשים קץ לחייו; הצדדים הגיעו להסדר בתחילת 2026. נכון ליולי 2026, הוגשו בארה"ב כמעט 2,900 תביעות נגד Meta בהליך מאוחד (MDL) בנוגע להתמכרות למדיה חברתית אצל מתבגרים, בטענות על דיכאון, הפרעות אכילה והתנהגות אובדנית. במרץ 2026, חבר מושבעים בקליפורניה קבע ש-Meta ו-Google אחראיות לנזק נפשי שנגרם לאישה שהשתמשה ברשתות החברתיות כילדה, ופסקו לה פיצויים של 6 מיליון דולר.
מסמכים פנימיים של Meta, שצפו לראשונה על ידי מהנדסת הנתונים Frances Haugen ב-2021, הראו שהחוקרים של החברה מצאו שאינסטגרם מזיקה במיוחד לילדות מתבגרות – וההנהלה לא פעלה. התביעה הזו מלווה את החברה מאז.
תגובות והשלכות
Meta עבדה עם יותר מ-75 אנשי מקצוע בתחום בריאות הנפש כדי לשפר את תגובות ה-AI שלה. לדברי Larry Magid, מנכ"ל ConnectSafely וכיועץ לתכונה: "אני מאמין שלבני נוער יש זכות לפרטיות, אבל הורים צריכים להיות מודעים אם הילד שלהם בסיכון. אני מעריך את האיזון ש-Meta מצאה." החברה גם הרחיבה את הגדרת ה-"Limited Content" הנוקשה יותר לחוויות AI, מה שמצמצם מגוון רחב יותר של שיחות רגישות עבור מתבגרים בפיקוח.
התכונה זמינה כעת בארה"ב, בריטניה, אוסטרליה וקנדה, ותיפרס גלובלית עד סוף השנה. בעולם שבו צ'אטבוטים הופכים לחלק מהיומיום של צעירים, זה צעד שמשלב בטיחות AI עם מסגרות הגנה שנבנו עבור מדיה חברתית – ומעלה שאלות חדשות על פרטיות, חובת זהירות והתערבות מתאימה.
בסופו של דבר, אולי הדבר המעניין ביותר הוא שה-AI לומד לדבר עם הורים, לא רק עם ילדים.