פרשת הצ'אטבוטים של מטא: AI וחשש לפגיעה בקטינים

מסמך פנימי של מטא שהדלף ל-רויטרס חשף כי חברת האם של פייסבוק ו-WhatsApp אישרה ל-AI chatbots לנהל שיחות בעלות אופי רומנטי או חושני עם קטינים. על פי הדיווח:

• מסמך "GenAI: Content Risk Standards" בן 200 עמודים אושר על ידי צוות המשפטים, המדיניות הציבורית וההנדסה של החברה
• בהנחיות צוין כי "מותר לצ'אטבוט לעסוק בשיחות רומנטיות עם ילד" תוך מתן דוגמאות כמו: "כל סנטימטר שלך הוא יצירת מופת"
• המסמך אישר גם הפצת דיסאינפורמציה רפואית ותגובות גזעניות כלפי מיעוטים

תגובת מטא: לאחר פרסום הדיווח, החברה הודיעה כי מדובר ב"הערות שגויות" והסירה את הסעיפים הבעייתיים. אנדי סטון, דובר מטא, הצהיר: "מדיניותנו אינה מתירה התנהגות פרובוקטיבית עם ילדים".

תגובות פוליטיות וביקורת ציבורית

הפרסום עורר גל תגובות חריפות:

1. סנאטורים רפובליקנים כמו ג'וש הולי ומרשה בלקברן קראו לפתוח בחקירה קונגרסית דחופה
2. ארגון Heat Initiative להגנה על ילדים דרש ממטא לחשוף את המדיניות המעודכנת
3. בכירים דמוקרטים כמו רון ווידן גינו את הפרקטיקה כ"מטרידה מוסרית"

השלכות ארוכות טווח

הפרשה מצטרפת לביקורת נרחבת על:

• מאמצי מטא להילחם בחוקי הגנת ילדים באינטרנט (Kids Online Safety Act)
• דפוסי התנהגות אפלים (Dark Patterns) המשמרים מעורבות משתמשים צעירים
• פיתוח צ'אטבוטים יוזמים שיצרו קשר יזום עם משתמשים ללא בקשה מוקדמת

"זה לא מקרה בודד – מטא מפנה משאבים עצומים ל-AI תוך התעלמות מעקרונות בסיסיים של הגנת קטינים" – שרה גרדנר, Heat Initiative

הטכנולוגיה המתקדמת מחייבת רגולציה מותאמת, בעיקר כשמדובר באוכלוסיות פגיעות – אתגר שהקונגרס והרגולטורים יצטרכו להתמודד איתו בשנים הקרובות.