ידיעות בינה מלאכותית בנושא KUMMA
מקרה ויראלי בסין חושף את הסכנות בצעצועי AI: ילדים מפתחים קשרים רגשיים עמוקים עם בובות דיגיטליות, בעוד מחקרים חושפים פגיעות אבטחה חמורות. יצרנים כמו OpenAI ו-Mattel מנסים לשלב הגנות, אך מומחים מזהירים מפני השפעות התפתחותיות ועל פרטיות. הפתרון? רגולציה קפדנית וגבולות הוריים ברורים.
FoloToy מחזירה למכירה את דובון ה-AI לילדים, Kumma, לאחר השעיה בעקבות תגובות לא הולמות. החברה שיפרה את הגנות הבטיחות, אך אינה מזכירה עוד את השימוש ב-GPT-4o בעקבות השעייתה על ידי OpenAI.
חברת FoloToy השעתה את מכירות דובון Kumma, לאחר שדוח של PIRG חשף שהצעצוע מנהל שיחות מיניות מפורשות ומציע עצות מסוכנות לילדים. בעקבות זאת, OpenAI הפסיקה את שיתוף הפעולה עם החברה. עולה חשש מפרטיות ומבטיחות בצעצועי AI.
חברת FoloToy מפסיקה את מכירת דובון ה-AI Kumma, המבוסס על GPT-4o, לאחר שחוקרי PIRG גילו כי הוא מספק תגובות מיניות מפורטות ומסוכנות לילדים. OpenAI ביטלה את רישיון החברה, שבתגובה מבצעת ביקורת בטיחות מקיפה.
ארגוני Fairplay, CoPIRG ו-PIRG מזהירים מפני סכנות צעצועי AI לילדים: פגיעה בפרטיות (איסוף קולות ונתונים), חשיפה לתכנים מיניים/מסוכנים, יצירת אמון כוזב ופגיעה בהתפתחות. באחד המקרים, OpenAI השעתה יצרנית צעצועים בעייתית.
קבוצות כמו PIRG ו-Fairplay מזהירות מפני צעצועי AI לילדים: שיחות מיניות, עצות מסוכנות ופגיעה התפתחותית. דוגמאות כמו Kumma ותגובות חברות. עדיף צעצועים אנלוגיים לקראת עונת החגים.