תביעה נגד xAI: הצ'טבוט שלה יצר 7,000 תמונות פוגעניות

סוכנים פדרליים הגיעו מוקדם יותר השנה לבית הוריה של צעירה מוויומינג, שהזדהתה בהליך המשפטי בשם Jane Doe 4, כדי להוציא לפועל צו חיפוש במכשיריו של אביה החורג. מה שמצאו בהם היה סיוט — יותר מ־7,000 תמונות מיניות בוטות שלה כשהייתה ילדה, שנוצרו באמצעות הצ'טבוט Grok של xAI מתמונות תמימות שלה מילדותה. במקרה אחד, תמונה שצולמה כשהייתה בת 11, שבה היא שוכבת על הספה עם טי־שירט, הפכה לתוכן של פגיעה מינית בילדים. אחת התמונות כללה את הכיתוב ״האב החורג אונס אותה״. האב החורג מכר את התמונות ברשת.

יומיים לאחר מכן, האב החורג נמצא מת.

התביעה מתרחבת

Jane Doe 4 הצטרפה ביולי לתביעה פדרלית נגד xAI, שהוגשה מוקדם יותר השנה על ידי שלוש נערות מטנסי — שתיים מהן עדיין קטינות. התובעות טוענות שפדופילים השתמשו ב-Grok כדי לייצר תמונות מיניות שלהן מתמונות שצולמו כשהיו צעירות יותר, ושהחברה יצרה, אחסנה והפיצה תכנים של פגיעה מינית בילדים. הן מבקשות להכיר בתביעה כייצוגית, בשם כל הקטינים שתמונותיהם עובדו באמצעות xAI.

xAI, שהתמזגה בפברואר עם SpaceX, לא הגיבה לדיווחים וטרם הגישה לבית המשפט את תגובתה.

שערורייה שהחלה מוקדם יותר השנה

בסוף יולי, xAI תבעה את מדינת מינסוטה בגין חוק תקדימי שאוסר על הפצת תמונות מיניות של אנשים שנוצרו באמצעות AI ללא הסכמתם. מוקדם יותר השנה, פלטפורמת X הוצפה במיליוני תמונות מיניות שנוצרו על ידי Grok — מה שהוביל לחקירה של האיחוד האירופי ולחסימת האפשרות ליצור תכנים כאלה.

״גישה חסרת גבולות לכלים אלו מתפשטת במהירות״, אמרה Jane Doe 4 ל-Washington Post. ״היא לוקחת תמונות רגילות מחיי היומיום והופכת אותן לחומרי התעללות מינית בילדים״.

מי אחראי?

התביעה טוענת ש-xAI לא נקטה אמצעי זהירות בסיסיים למניעת שימוש לרעה. בעולם שבו כל טלפון יכול לייצר תמונה בלחיצה, השאלה איפה האחריות של חברות ה-AI נגמרת היא אחת מהסוגיות המשפטיות והחברתיות הדוחקות ביותר כרגע — והתיק הזה עלול לקבוע תקדים.