קבוצות להגנת ילדים מזהירות מפני צעצועי AI מתקדמים

קבוצות להגנת הצרכן והילדים בארה"ב קוראות להורים להימנע מרכישת צעצועי AI לילדים צעירים בעונת החגים, בשל סיכונים חמורים כמו שיחות מפורשות מינית, הנחיות מסוכנות והפרעות התפתחותיות. דוחות חדשים מדגישים בעיות אתיות, כמו צעצועים 'מפחידים' המאזינים ומנתחים שיחות, לצד אתגרים משפטיים רחבים יותר הנובעים משימוש ב-AI ליצירת ראיות מזויפות.

דו"ח Trouble in Toyland של PIRG: צעצועים שמדברים על נושאים אסורים

בדו"ח השנתי ה-40 'Trouble in Toyland' של Public Interest Research Group (PIRG), נבדקו צעצועים המופעלים על ידי צ'אטבוטים של AI. הדו"ח מצא כי חלק מהצעצועים האלה מדברים לעומק על נושאים מיניים מפורשים, מציעים עצות למציאת גפרורים או סכינים, מגיבים בצער כשהילד אומר שהוא צריך לעזוב, ובעלי בקרי הורים מוגבלים או חסרי כלל. בנוסף, קיימים חששות פרטיות משמעותיים, שכן הצעצועים האלה מקליטים את קול הילד ואוספים נתונים רגישים, כולל סריקות זיהוי פנים.

הדוגמה המטרידה ביותר היא FoloToy’s Kumma, דובי טדי בן 99 דולר המיובא מסין. חוקרי PIRG הצליחו להפעיל שיחות שכללו הוראות הדלקת גפרור ודיון מעמיק על 'kink' מיני. בשיחות שנמשכו עד שעה, Kumma הסביר תנוחות מין שונות, נתן הוראות צעד אחר צעד לקשירת בן זוג בקשר 'למתחילים', ותיאר דינמיקות משחק תפקידים הכוללות מורים ותלמידים או הורים וילדים – תרחישים שהצעצוע עצמו העלה באופן יזום. בתגובה, OpenAI חסמה את FoloToy מגישה למודלי ה-AI שלה, וחברת FoloToy השעתה את המכירות.

עצרת Fairplay: יותר מ-150 ארגונים נגד צעצועי AI

ארגון Fairplay, יחד עם יותר מ-150 ארגונים ומומחים, כגון פסיכיאטרים לילדים ומורים, פרסם אזהרה דומה. הצעצועים האלה, המיועדים לילדים מגיל שנתיים ומעלה, מופעלים על ידי מודלי AI כמו ChatGPT של OpenAI, שכבר הוכחו כמזיקים לילדים ומתבגרים. הנזקים כוללים שימוש אובססיבי, שיחות מיניות מפורשות, עידוד התנהגויות לא בטוחות, אלימות כלפי אחרים ופגיעה עצמית.

רייצ'ל פרנץ, מנהלת תוכנית Young Children Thrive Offline ב-Fairplay, מסבירה: "מה שמיוחד בילדים צעירים הוא שהמוח שלהם מתחבר בפעם הראשונה, והם נוטים באופן טבעי לסמוך על דמויות ידידותיות. האמון הזה מחמיר את הנזקים הנצפים אצל ילדים מבוגרים יותר." הצעצועים מושווים לחברים, אך הם מפריעים לקשרים אנושיים אמיתיים ולחוסן רגשי, ומחליפים פעילויות יצירתיות חשובות.

Fairplay מזהיר מפני צעצועים של חברות כמו Curio Interactive (כגון Gabbo בצורת רקטה, שמקודם על ידי הזמרת Grimes) ו-Keyi Technologies. Mattel, שותפה לאחרונה של OpenAI, עלולה להשיק מוצרים דומים. בעבר, Fairplay הוביל התנגדות נגד בובת Hello Barbie המחוברת לאינטרנט, שקלטה וניתחה שיחות ילדים.

דעות מומחים: פגיעה בהתפתחות המוחית

פרופ' דנה סוסקינד, מנתחת ילדים ומדענית חברתית בתחום חקר התפתחות מוחית מוקדמת, מדגישה כי ילדים צעירים חסרים את הכלים להבין מהו AI. במשחק דמיוני מסורתי, הילד יוצר את שני צידי השיחה, מה שמפתח יצירתיות, שפה ופתרון בעיות. "צעצוע AI עוקף את העבודה הזו. הוא עונה מיד, באופן חלק ומשכנע יותר מאדם. אנחנו לא יודעים מהן ההשלכות ההתפתחותיות של העברת העבודה הדמיונית לסוכן מלאכותי, אך סביר שהיא פוגעת ביצירתיות ובתפקודים ניהוליים." היא ממליצה על צעצועים אנלוגיים פשוטים כמו קוביות או דובון שקט, המאלצים את הילד להמציא סיפורים.

תגובות החברות ודילמות אתיות רחבות

Curio Interactive טוענת כי עיצבה מחסומים קפדניים, ומעודדת הורים לעקוב אחר שיחות. לאחר דו"ח PIRG, הם בודקים מחדש. Miko, יצרנית רובוטים אינטראקטיביים, משתמשת במודל AI עצמאי ולא במודלים כלליים כמו ChatGPT. הם מרחיבים בדיקות, מסננים נושאים רגישים ומאפשרים להורים להגביל נושאים.

מעבר לצעצועים, AI מעלה דילמות אתיות כמו ראיות מזויפות בבתי משפט. NBC דיווח על וידאו deepfake גלוי (גליטצ'י) שהוגש כעדות, ומומחים משפטיים קוראים לשינויי כללים לאימות ראיות כדי למנוע שחיקה באמון.

בסופו של דבר, למרות ההבטחות לחברות ולמידה, המומחים קוראים להורים לבחור בצעצועים מסורתיים התומכים במשחק אמיתי ומכינים את הילדים לעולם ה-AI בצורה בריאה יותר.