xAI נתבעת: Grok יצר תמונות מזויפות

אנחנו רגילים לשמוע על פליטות של מודלי AI, אבל הסיפור הזה לוקח את העניין לרמה משפטית חדשה לגמרי. חברת פרלמנט בריטית, Jess Asato, תובעת את החברה של אילון מאסק, xAI, בטענה שהצ'אטבוט שלה, Grok, יצר תמונות וסרטונים מזויפים שלה - מיניים, אלימים ולא-בהסכמה - שהופצו ברשת.

במסמכי התביעה, שהוגשו לבית המשפט העליון, עורכי דינה טוענים ש-Asato חוותה "הפרה בוטה של כבודה". התביעה טוענת ש-xAI צריכה לשאת באחריות כי עיצוב המודל underlying איפשר יצירת תוכן כזה. הם דורשים צו בית משפט שיחייב את החברה ליישם "אמצעים טכניים אפקטיביים וקבועים" למניעת הישנות מקרים כאלה.

מה קרה בפועל?

Asato, חברת פרלמנט מטעם מפלגת העבודה, פרסמה ב-X בינואר 2024 וקראה ל-Musk "להבין ששימוש ב-AI כדי להפשיט נשים ללא הסכמתן הוא תקיפה מינית שנועדה להשפיל". לאחר מכן, משתמשים ב-X הנחו את ה-Grok ליצור תמונות "משפילות, מאיימות ולא-בהסכמה" שלה.

עורכת הדין Marie Demetriou KC טוענת שבפברואר דיווחו על 21 פוסטים כאלה, אך X סירבה להסירם, בטענה שאינם מפרים את תנאי השירות. לדבריה, שישה מהם עדיין היו חיים בסוף יולי. xAI אמרה לאחרונה שמשתמשים לא יוכלו יותר להשתמש בכלי ליצירת תמונות מיניות של אנשים אמיתיים.

ההקשר המשפטי

בבריטניה, מאז התביעה, יצירת תמונות עמוקות לא-בהסכמה של בוגרים הפכה לבלתי חוקית. התביעה הזו, אם תצליח, יכולה לקבוע תקדים חשוב: אחריות פלילית ואזרחית לחברות AI על הפלטים של המודלים שלהן, גם אם המשתמשים הם שהזמינו את התוכן. xAI עדיין לא הגישה כתב הגנה.

אז מה בעצם קרה כאן? מקרה קלאסי שבו היכולת של הטכנולוגיה עקפה את המערכות שנועדו לרסן אותה.