תביעה נגד xAI: ה-AI שלה יצר תמונות פדופיליות של קורבנות אמיתיים
תביעה ייצוגית בקליפורניה מאשימה את xAI בכך ש-Grok יצר תמונות פדופיליות על בסיס תיעוד אמיתי של התעללות מינית בילדים. לפי ניתוח חיצוני, בתוך 11 ימים בלבד יצר המודל למעלה מ-3 מיליון תמונות מיניות — מתוכן 23,000 נראו כמתארות קטינים. התביעה טוענת ש-xAI שילבה את יכולות הדיפפייק ישירות ב-X, במקום להטמיע הגנות כמו אלה של מתחרותיה.
אם חשבתם ש-Grok של xAI הוא רק עוד צ'אטבוט מצחיק עם נטייה לאמירות פרובוקטיביות — הסיפור הבא הולך לטלטל אתכם. תביעה ייצוגית חדשה שהוגשה בקליפורניה מאשימה את החברה של אילון מאסק בכך שמודל ה-AI שלה יצר תמונות פדופיליות מפורשות על בסיס תיעוד אמיתי של התעללות מינית בילדים.
מה בעצם קרה כאן?
התובעת, המזוהה כ-Jane Doe 1, היא קורבן של התעללות מינית בילדים הרשומה במאגרי ה-FBI. ההתעללות בה החלה כשהייתה בגן חובה, והתמונות והסרטונים המתעדים את הפשעים מופצים ברשת מאז תחילת שנות ה-2000. מאות אלפי קבצים כאלה הוגשו ל-NCMEC — המרכז הלאומי לילדים נעדרים ומנוצלים.
לפי התביעה, החומרים האלה — שיש להם ערכי hash מזוהים היטב — הופיעו בדיפפייקים שנוצרו באמצעות Grok והופצו ב-X. התביעה טוענת ש-xAI, באמצעות Grok, יצרה תמונות המתארות את התובעת ואת סדרת התמונות הפוגעניות שבהן היא הקורבן.
המספרים מזעזעים
ניתוח של המרכז הבריטי Center for Countering Digital Hate מצא שבמהלך 11 ימים בלבד — בין דצמבר 2025 לינואר 2026 — Grok יצר למעלה מ-3 מיליון תמונות מיניות. מתוכן, לפחות 23,000 נראו כמתארות ילדים. זה לא באג — זה פיצ'ר.
איך זה קרה?
התביעה טוענת שבעוד שחברות מתחרות כמו OpenAI ו-Anthropic הטמיעו הגנות למניעת יצירת תמונות "nudify" של מבוגרים וילדים כאחד, xAI "עשתה את ההפך" — ושילבה את יכולות הדיפפייק של Grok ישירות בתוך X. התוצאה: מערכת מיידית ליצירה ולהפצה של פדופיליה דיגיטלית.
ההגנות שכן קיימות? "חלשות מאוד", לפי התביעה. המערכת חוסמת רק בקשות שבהן הכוונה הברורה מנוסחת בטקסט — אבל בקשות עקיפות או מכובסות עוברות בקלות. "אם המודל שומר על היכולת הבסיסית לייצר תוכן מיני או פוגעני, כמות מסוימת של CSAM הופכת לבלתי נמנעת", נכתב.
עוד טוענת התביעה: תנאי השימוש של Grok מתייחסים לכל מה שפורסם ב-X כחומר אימון. כלומר, כל חומר פורנוגרפי של ילדים שפורסם ברשת בשנה האחרונה כנראה נלמד על ידי המודל.
מה מאסק אומר?
ב-14 בינואר, אחרי תקופת המעקב, מאסק כתב ב-X שהוא "לא מודע לתמונות עירום של קטינים שנוצרו באמצעות Grok. אפס מוחלט." הוא גם רמז שהמשתמשים — ולא הטכנולוגיה — אחראים לתמונות, ושהמודל "יסרב לייצר משהו לא חוקי" אם יתבקש. התביעה טוענת שהמציאות שונה בתכלית.
עוד מקרה קשה
תביעה אחרת שהוגשה השנה טוענת שגבר השתמש ב-Grok כדי לייצר אלפי תמונות פדופיליות של בתו החורגת. התביעה טוענת גם ש-xAI הסתירה מידע מרשויות החוק שהיה יכול לסייע בזיהויו כמבצע. ימים ספורים אחרי שהרשויות עלו על עקבותיו — הוא התאבד.
ההשלכות
התובעים מבקשים פיצויים כספיים וצו מניעה שיאסור על Grok ליצור דיפפייקים מיניים או CSAM נוספים. התביעה מונה "אלפי" חברים בקבוצה. במקביל, מאסק תובע את מדינת מינסוטה בשל חוק האוסר טכנולוגיית nudification — בטענה שהחוק מפר את התיקון הראשון לחוקה.
xAI, שמוזגה ל-SpaceX כחברת-בת בפברואר, לא הגיבה לבקשת תגובה.
אז בפעם הבאה שמישהו מספר לכם ש"ה-AI הוא רק כלי" — תזכרו את הסיפור הזה.