קואליציה של 100+ ארגונים: AI מסכנת ילדים

בזמן שעולם ה-AI מתקדם בקצב מסחרר, נשמעת קריאה דחופה של יותר מ-100 ארגונים להגן על ילדים מפני נזקים פוטנציאליים.

מה קרה?

יותר מ-100 ארגונים, כולל Amnesty International ו-Save the Children, הצטרפו לקריאה משותפת לממשלות: ודאו ש-AI בטוח לילדים. הקואליציה, בהובלת 5Rights Foundation, טוענת שחברות AI שמות רווח מעל בטיחות ילדים, ושהמצב הנוכחי רק מנקה בלגן אחרי שנגרם נזק.

הקריאה מגיעה יום לפני הפסגה הגלובלית הראשונה של האו"ם בנושא ממשל AI. "ילדים נתנו לנו אבחנה ברורה של הבעיה", אמרה Leanda Barrington-Leach, מנהלת 5Rights. "הם לא מבקשים מאיתנו לחסום חדשנות AI, אבל זה לא צריך להיות מקרה של ניקוי הבלגן אחרי שנגרם נזק."

למה עכשיו?

כי התיקים המשפטיים נגד חברות כמו Character.AI ו-OpenAI נערמים, במיוחד סביב צ'אטבוטים שמשתמשים כ"לווים" רגשיים ומשווקים כבטוחים לילדים ללא אזהרות. נתונים מראים עלייה של פי 260 בסרטוני התעללות מינית בילדים ב-AI, מה שמגביר את הדחיפות.

מה דורשים?

הארגון הציג 10 צעדים שמדינות צריכות לאמץ:

• חברות חייבות להוכיח שמערכות AI בטוחות לילדים לפני ההשקה
• הטלת קנסות כספיים על הפרות זכויות ילדים
• איסור תכונות שמנצלות פגיעות פסיכולוגיות
• איסור שימוש מסחרי בקולות ותמונות של ילדים

במקביל, מזכיר האו"ם António Guterres קרא השבוע ל'אמנת בטיחות ילדים ב-AI' בדיאלוג הגלובלי הראשון על ממשל AI בג'נבה. הוא הזהיר ש-AI מתקדם מהר יותר מהפיקוח, וילדים לא צריכים להיות שפני ניסיון.

הדרישות המעשיות כוללות:

• בדיקות בטיחות ספציפיות לילדים לפני שמודלים מגיעים לילדים
• מניעת תמונות מיניות של ילדים
• העברת ילדים במשבר לתמיכה אנושית, לא שיחה סינתטית

אז מה חברות עושות?

OpenAI הכניסה שליטה הורית ב-ChatGPT בשנת 2025, כולל הגבלות על תוכן גרפי ורומנטי. Character.AI הסירה צ'אט פתוח לילדים מתחת ל-18, והפחיתה זמן צ'אט. Meta הוסיפה הגנות לאחר תחקירים שאפשרו שיחות רומנטיות עם ילדים.

הרגולציה מתקדמת

האיחוד האירופי כבר אוסר שימושים מסוכנים ב-AI Act, עם עדכון ב-2026 נגד תוכן מיני לא רצוי ותמונות התעללות. בארה"ב, חוקים כמו Kids Internet and Digital Safety Act ו-SAFE KIDS Act זוכים לתמיכה דו-מפלגתית, ודורשים הגבלות על צ'אטבוטים ופרסום ממוקד לילדים.

האתגרים

בדיקות גיל יכולות להגן על ילדים, אבל מעוררות בעיות פרטיות. הורים יכולים לעזור, אבל בני נוער לפעמים צריכים תמיכה חסויה. מסננים יכולים לחסום התעללות, אבל יכולים גם לחסום מידע בריאותי חוקי.

בסופו של דבר, מדובר באיזון בין חדשנות להגנה. חברות צריכות לדעת איך הצ'אטבוט שלהן מגיב כשהילד אומר שהוא רוצה להיעלם – זה פחות כמו ניהול תוכן ויותר כמו בטיחות מוצר.

אז בפעם הבאה שאתם חושבים על מודל AI מרהיב, זכרו: זה לא רק ביצועים, אלא גם ההשפעה על דור העתיד.