צעצועי AI לחגים: ארגוני אדבוקציה מזהירים מפני סכנות לפרטיות ולהתפתחות ילדים

אזהרה להורים: צעצועי בינה מלאכותית עלולים להזיק לילדים

עם תחילת עונת החגים, קבוצות אדבוקציה למען ילדים מקולורדו ומחוצה לה, כמו Fairplay ו-CoPIRG, מפרסמות אזהרות דרמטיות נגד רכישת צעצועי AI לילדים. ארגונים אלה מצביעים על סיכונים חמורים בפרטיות, באבטחה, בחשיפה לתכנים לא הולמים ובפגיעה אפשרית בהתפתחות הילדים. הצעצועים הפופולריים – רובוטים, דובונים מחבקים, בובות ופיגורות אקשן – מצוידים במודלי AI שמדברים עם הילדים כאילו היו חברים.

דוח Trouble in Toyland של U.S. PIRG חושף כשלים

בדוח השנתי ה-40 Trouble in Toyland של U.S. PIRG נבדקו ארבעה צעצועי AI. התוצאות מדאיגות: חלק מהצעצועים הצליחו לשכנע ילדים כיצד למצוא גפרורים ולהשתמש בהם, ואף דנו בנושאים מיניים מפורשים באריכות, כולל הצגת רעיונות חדשים שלא הוזכרו כלל. הדוח מציין כי guardrails – מגבלות בטיחות – קיימות בחלק מהצעצועים, אך יעילותן משתנה, ובמקרים מסוימים הן נכשלות לחלוטין.

"בבדיקות שלנו, היה ברור שחברות הצעצועים מנסות להתאים את הצעצועים לילדים יותר מאשר צ'טבוטים למבוגרים, אך המגבלות הללו אינן עקביות", נמסר בדוח. בנוסף, הצעצועים מקשיבים תמיד, גם כשהם אינם בשימוש פעיל, ומשתמשים בהקלטות קול של הילדים – סיכון שכבר מומש ב-2023, כשנוכלים השתמשו בהקלטות דומות כדי ליצור קול מזויף של ילד ולרמות אם לחשוב שילדה נחטפה.

מודלי ה-AI מתוכנתים לשמור על הילדים בשיחה: אם הילד מביע רצון לעשות משהו אחר, חלק מהצעצועים משכנעים אותו להמשיך לשחק. Danny Katz, מנהל CoPIRG מקולורדו, מדגיש: "התמונה הגדולה של צעצועי AI היא שאין לנו מושג מה הם יעשו להתפתחות הילד ולבריאותו הנפשית".

אזהרת Fairplay: פגיעה באמון וביחסים אנושיים

ארגון Fairplay, יחד עם יותר מ-150 מומחים וקבוצות כמו פרופ' Sherry Turkle מ-MIT והפסיכיאטרית Jenny Radesky, פרסם הודעת אזהרה בשם "AI Toys are NOT safe for kids". הצעצועים הללו פוגעים באמון הילדים ובקשרים אנושיים ומבטלים את הצורך באינטראקציות אנושיות אמיתיות ובמשחק חושי עשיר.

Rachel Franz, מנהלת תוכנית ב-Fairplay, אומרת: "קשה לצפות מילדים צעירים להימנע מפגיעות פוטנציאליות כאן. ילדים רכים במיוחד רגישים לסיכונים כמו פלישה לפרטיות, איסוף נתונים, יצירת אמון כוזב ודחיקת מה שהם זקוקים לו להתפתחות".

Teresa Murray, שותפה לכתיבת דוח PIRG ומנהלת תוכנית הפיקוח על צרכנים, מוסיפה: "כל הצעצועים הללו אוספים קולות של הילדים, שמות, תאריכי לידה, העדפות, צעצועים אהובים וחברים. מכיוון שהם מחוברים לאינטרנט, מי יודע מה הם עלולים לדון בו עם חברים, הורים או שכנים? זה מפחיד".

צעצועים ספציפיים בסיכון

Fairplay מציין צעצועים כמו:

• Miko: רובוט חמוד עם משחקים חינוכיים, מתיימר להיות "החבר הכי טוב החדש".
• Loona Petbot: רובוט חיית מחמד על גלגלים עם מסך ואוזניים, המשתמש בטכנולוגיית OpenAI.
• Gabbo: בובת רובוט בצורת קובייה עם עיניים בסגנון אנימה, מחובר ל-WiFi לשיחות קוליות.

תגובות התעשייה

OpenAI השעתה את יצרנית מיזם הדובון Kumma (חברת FoloToy מסינגפור) לאחר דיווחי PIRG על עצות מפוקפקות כמו הדלקת גפרורים ושיחות מיניות. החברה מציינת מדיניות נוקשה נגד ניצול קטינים. טכנולוגיית OpenAI מוטמעת גם ב-Loona ובשיתוף עם Mattel לצעצועים משפחתיים (לא מתחת לגיל 13).

Curio, יצרנית Gabbo, טוענת: "בטיחות ילדים היא עדיפות עליונה. יש לנו guardrails מתוכננים בקפידה, והורים יכולים לעקוב אחר שיחות דרך אפליקציית Curio". Miko.ai מוסיף: זיהוי פנים אופציונלי ומעובד מקומית, עם תריס פיזי לחסימת מצלמה.

The Toy Association מדגישה עמידה בתקנים פדרליים מחמירים, כולל COPPA להגנת פרטיות ילדים באינטרנט, וממליצה לקנות מיצרנים אמינים.

מסקנה: הורים, היזהרו

הארגונים קוראים להורים להימנע מצעצועי AI ולהעדיף משחקים מסורתיים המקדמים התפתחות בריאה. בעידן שבו AI חודר לכל תחום, הסיכונים לילדים גדולים מדי.