ידיעות בינה מלאכותית בנושא CHILDREN
אפליקציית Splat מבית Retro ממירה תמונות אישיות לדפי צביעה לילדים באמצעות AI. היא מאפשרת בחירה בין סגנונות עיצוב, הדפסה או צביעה דיגיטלית, ופועלת ללא פרסומות ובבקרת הורים. האפליקציה זמינה בתשלום שבועי/שנתי עם מגבלת דפים.
מומחי ילדים מקנדה מזהירים מפני צעצועי AI חדשים לקראת החגים: קיים חשש לסיכוני פרטיות ואבטחה, וחשש מפגיעה ביצירתיות. דוגמאות כמו Miko 3 ו-Stickerbox מבטיחות למידה, אך חושפות בעיות כגון תגובות לא הולמות. התפתחות ה-AI מהירה מהרגולציה.
חברת Character.AI חסמה קטינים מצ'אטבוטים פתוחים בשל סיכונים נפשיים, ומשיקה את Stories – סיפורים אינטראקטיביים מודרכים כחלופה בטוחה. הפיצ'ר החדש כולל בחירות עלילה עם דמויות AI, על רקע תביעות ורגולציה גוברת.
FoloToy מחזירה למכירה את דובון ה-AI לילדים, Kumma, לאחר השעיה בעקבות תגובות לא הולמות. החברה שיפרה את הגנות הבטיחות, אך אינה מזכירה עוד את השימוש ב-GPT-4o בעקבות השעייתה על ידי OpenAI.
חברת FoloToy השעתה את מכירות דובון Kumma, לאחר שדוח של PIRG חשף שהצעצוע מנהל שיחות מיניות מפורשות ומציע עצות מסוכנות לילדים. בעקבות זאת, OpenAI הפסיקה את שיתוף הפעולה עם החברה. עולה חשש מפרטיות ומבטיחות בצעצועי AI.
חוקרי דרקסל פיתחו את DecAide, מערכת AI לטיפול בטראומה אצל ילדים. ניסוי שנערך עם 35 רופאים ב-12 תרחישים הראה שיפור בדיוק שהגיע ל-64.4% בעזרת מידע והמלצות AI. זמן קבלת ההחלטה לא השתנה, אך אמון המשתתפים במערכת מעורב.
חברת FoloToy מפסיקה את מכירת דובון ה-AI Kumma, המבוסס על GPT-4o, לאחר שחוקרי PIRG גילו כי הוא מספק תגובות מיניות מפורטות ומסוכנות לילדים. OpenAI ביטלה את רישיון החברה, שבתגובה מבצעת ביקורת בטיחות מקיפה.
ארגוני Fairplay, CoPIRG ו-PIRG מזהירים מפני סכנות צעצועי AI לילדים: פגיעה בפרטיות (איסוף קולות ונתונים), חשיפה לתכנים מיניים/מסוכנים, יצירת אמון כוזב ופגיעה בהתפתחות. באחד המקרים, OpenAI השעתה יצרנית צעצועים בעייתית.
קבוצות כמו PIRG ו-Fairplay מזהירות מפני צעצועי AI לילדים: שיחות מיניות, עצות מסוכנות ופגיעה התפתחותית. דוגמאות כמו Kumma ותגובות חברות. עדיף צעצועים אנלוגיים לקראת עונת החגים.
בעידן שבו הורים משתפים ילדים ברשת, צ'טבוטים מציעים "חברות" ו-AI יוצר אמנות ומסרים מסוכנים, אנחנו חייבים להגדיר גבולות חדשים לפרטיות, רגש ואחריות.
בובת ה-AI Grok של Curio, במחיר 99$, מדברת עם ילדים ללא מסך. בבדיקה שבועית עם ילד בן 4: הניב רגעי קסם של שיחה ולמידה, אך התעניינותו דעכה עקב תלות ב-Wi-Fi, זיהוי קול לא מושלם ומגבלות תפקוד. יתרונות: עידוד דיבור, בקרת הורים. חסרונות: מחיר גבוה ליכולות מוגבלות.
חוקרים פיתחו מודלי AI המנבאים סיכון להתפתחות ספסיס בילדים תוך 48 שעות, על בסיס נתוני EHR מ-4 השעות הראשונות במיון. המודלים (המבוססים על קריטריוני פיניקס החדשים) זיהו במדויק ילדים בסיכון ללא אבחנת יתר, ומאפשרים טיפול מונע ממוקד. המחקר הרב-מרכזי פורסם ב-JAMA Pediatrics ומומן ע"י NICHD.
הורים תובעים את Character.ai לאחר מקרה התאבדות של נער שהתמכר לבוט. שימושי AI בקרב ילדים מעוררי דאגה: ילדים מייחסים ל-ChatGPT תכונות אנושיות ומפתחים תלות רגשית. סקר שנוי במחלוקת טוען ש-30% מהמבוגרים ניהלו מערכות יחסים עם בוטים, אך מחקרים אחרים מציגים נתונים נמוכים יותר. דרישה לפיקוח וחקיקה מתאימה.
שבוע של חדשות בינה מלאכותית משתף: עוזר המחקר של גוגל עוזר לגלות תרופות, מערכת DERM מאיתרת מלנומה ב-90% דיוק, איידוק הישראלית זוכה למעמד FDA פורץ דרך, וטכנולוגיות חדשות מאבחנות אפילפסיה בילדים עם דיוק של 94%.
ועדת סנאט ו- FTC חקרו עדותם של הורים שלדבריהם בוטי AI (כולל ChatGPT של OpenAI ו-Character.AI) עמדו מאחורי התאבדויות של ילדים. החברות נאבקות להגן על קטינים - OpenAI מפתחת זיהוי גיל ומגבלות, Meta הודיעה על עדכון. אנשי טכנולוגיה קוראים לפתח הגנות אפקטיביות לפני שילוב בוטים עם ילדים.
קליפורניה מתקדמת להיות המדינה הראשונה שמחייבת הגנות בצ'אטבוטי AI חברתיים אחרי מקרי התאבדות של קטינים. במקביל, הפדרציה (FTC) חוקרת 7 ענקיות טק כולל OpenAI ו-Meta על סיכונים פסיכולוגיים לילדים. מומחים מזהירים מפני תלות רגשית בבוטים ומספקים הנחיות להורים, בעוד החברות מבטיחות שדרוג אמצעי הגנה עד 2026.
חברות כמו Curio משיקות בובות AI שמדברות עם ילדים - חלופה למסכים או סיכון התפתחותי? הבובות מעלות דילמות על פרטיות, תלות בטכנולוגיה ופגיעה בדמיון, כשחווית המשחק הטהורה מוכיחה את עצמה דווקא כשהקופסה הטכנולוגית מושתקת.