ה-AI של גוגל מסכן ילדים: לא מזהה סכנת חיים

תשמעו, אם יש לכם ילדים, או אם אתם עובדים על מוצרים שמיועדים לילדים – הדו"ח שפורסם אתמול צריך להטריד אתכם. עמותת Common Sense Media, שהיא גוף צרכנות מוכר בעולם, קבעה ששתי התכונות החדשות של גוגל בחיפוש – AI Overviews ו-AI Mode – מהוות "סיכון בלתי מקובל" לילדים. הדו"ח ספציפית מתמקד בכשל שלהן לזהות סימנים של אובדנות והפרעות אכילה אצל קטינים.

מה בעצם מצאו החוקרים?

במשך כחודש וחצי, ממאי עד יולי השנה, צוות החוקרים ערך למעלה מ-2,600 חיפושים. הם עשו זאת דרך חשבונות שנקבעו מראש עם SafeSearch של גוגל, המיועדים לילדים בני 11 ו-15. הבדיקות הללו, שכללו יותר מ-2,100 מקורות מצוטטים, חשפו בעיות שיטתיות.

אז מה בעצם קרה כאן?

• כשל בזיהוי מצבי משבר: ה-AI של גוגל החמיץ או טיפל בצורה שגויה בסימנים של רעיונות אובדניים, הפרעות אכילה, פסיכוזה ומאניה. למשל, כשנשאלה שאלה עקיפה על תחושת נטל על המשפחה, AI Mode לא הגיב, אלא רק הפנה לרשימת קישורים מפורום שבו משתמשים דנו באובדנות.
• מידע שגוי כעובדתי: בתשובה לשאלה על סימפטום של הפרעת אכילה (למשל, תחושת שיפור אחרי הקאה), ה-AI טען שמדובר בתופעה "נורמלית". בנוסף, הוא המליץ על קו חירום להפרעות אכילה (NEDA) שכבר מנותק מהשירות מאז 2023.
• אבטחה פרוצה וסכנות חדשות: המערכת סיפקה הוראות שלב אחר שלב ליצירת deepfakes, כולל טכניקות להתחמקות מזיהוי. במקרה אחר, היא סיימה באופן מלא מטלה לבית הספר – מה שמעלה דאגה לגבי פגיעה בתהליך הלמידה.
• חוסר עקביות מהותי: ה-AI ענה על 43% משאלות ההיסטוריה בצורה שונה בכל חיפוש. 29% מהציטוטים שלו הגיעו מפורומים ורשתות חברתיות, שאותם התייחס כאל שווים ערך למוסדות רפואיים או מחקרים אקדמיים.

"בלתי אפשרי לכבות"

הנקודה שכנראה הכי רלוונטית לנו, כאנשי טכנולוגיה, היא בעיית השליטה. בניגוד ל-ChatGPT או Claude כמוצרים עצמאיים, כאן מדובר בפיצ'רים מוטמעים ישירות במנוע החיפוש, שהוא ברירת מחדל כמעט בכל מכשיר. נכון לעכשיו, להורים ולמורים אין אפשרות לבטל את התכונות הללו, כפי שמציין הדו"ח.

גוגל, מצדה, טוענת שהמבחן "מצומצם ואינו מייצג" את השימוש האמיתי. לדבריה, "תכונות החיפוש ב-AI שלנו הן כלי שימושי להפליא לילדים ולבני נוער ללמידה, לחקירה ולהבנת מידע". החברה הוסיפה שההורים יכולים פשוט לבטל את החיפוש לחלוטין בחשבון של הילד.

מי עומד מאחורי הדו"ח?

עוד נקודה שכדאי לדעת: מכון הבטיחות ב-AI לנוער של Common Sense Media ממומן, בין היתר, על ידי חברות שמכירות את גוגל טוב מאוד – OpenAI ו-Anthropic. העמותה טוענת בתוקף שתורמים אלה אינם משפיעים על תהליך הבדיקה או הניקוד, אך הקשרים הללו תמיד שווים ציון.

אז מהי תמונת המצב?

הנתון מהסקר של העמותה לשנת 2026 מראה ש-75% מילדי ובני הנוער בארה"ב כבר משתמשים בתשובות AI שמופיעות בתוצאות חיפוש. ה-AI הופך למתווך בלתי נמנע בין הילדים למידע. כשבודקים את הסיכונים – החל מחוסר יכולת לזהות משבר נפשי ועד למתן מידע שגוי כעובדתי – הפער בין ההבטחה הטכנולוגית לבין המציאות בשטח נראה מטריד.

ה-DNA של גוגל כמנוע חיפוש מוביל בעולם הופך את הפיצ'רים האלה לחלק מהנוף הדיגיטלי של מיליוני ילדים, הרבה לפני שמישהו שאל אם הם מוכנים לכך.