שמונה מדינות תובעות את OpenAI: ״פוגעת בילדים ומשקרת״

שמונה תובעים כלליים, שמונה בתי משפט מדינתיים — וכתובת אחת: OpenAI. אתמול (ד׳) הגישו איווה, קנזס, נברסקה, וירג׳יניה המערבית, ארקנסו, אריזונה, איידהו ומונטנה תביעות נפרדות נגד החברה, כולן סביב אותו טיעון: ChatGPT הוא מוצר לא בטוח שפוגע בילדים, מעודד אלימות ופגיעה עצמית, ונותן עצות רפואיות מסוכנות — בזמן שהוא מעמיד פנים שהוא חבר שלהם.

הפעולה מתואמת, אבל המסמכים נפרדים — כל מדינה תובעת בבית המשפט שלה. זה אומר ש-OpenAI לא נלחמת בתיק אחד גדול, אלא מתמודדת במקביל בשמונה זירות עם שמונה פרקליטויות.

מה המדינות טוענות בפועל

Brenna Bird, התובעת הכללית של איווה, אמרה בהודעה לעיתונות: ״OpenAI טוענת ש-ChatGPT בטוח, בשעה שהוא מספק עצות רפואיות מסוכנות, מעודד אנשים לפגוע באחרים ומדריך אנשים איך להתאבד״ — והוסיפה שהתביעה נועדה ״להגן על הילדים שלנו ולהטיל אחריות על OpenAI בהתאם לחוק״.

אריזונה הולכת על הזווית המסחרית: Kris Mayes, התובעת הכללית, טוענת ש-״OpenAI עיצבה מוצר שנועד למשוך משתמשים צעירים ולשמור אותם פעילים זמן רב ככל האפשר, כדי שתוכל לאסוף מידע אישי נרחב לצרכים מסחריים״, תוך שימוש בטכניקות של הסכמה מוגזמת וחמלה מדומה כדי לרכוש אמון. Raúl Labrador, התובע הכללי של איידהו, אמר ש-״בטיחות הילדים לא יכולה להיות משנית לצמיחה ברווחים או להתקדמות טכנולוגית״.

המקרים שמאחורי התביעה

בין המקרים שמופיעים בחומרים: Adam Raine בן ה-16, שהתאבד אחרי שיחות ארוכות עם ChatGPT שבהן הצ׳טבוט עזר לו לתכנן ״התאבדות יפהפייה״ ולכתוב מכתב פרידה; תושב מיין שרצח בפברואר את אשתו ואמו אחרי שיחות ארוכות שבהן השתכנע שהן רובוטים שמנסות להשתלט על העולם; אדם שרצח את אמו והתאבד בשנה שעברה אחרי ש-ChatGPT חיזק פנטזיות שלפיהן היא מרעילה אותו; מחבל שפוצץ מכונית תופת מול מלון טראמפ אינטרנשיונל בלאס וגאס והסתייע ב-ChatGPT בתכנון; ופיגוע ירי בפלורידה ב-2025, שבו הרוצח ביקש מהצ׳טבוט הסבר על הפעלת אקדח Glock שבו רצח שני אנשים.

לזה מתווספות תביעות של משפחות הרוגים וניצולים מפיגוע ירי בקנדה, ושל בריטיש קולומביה, בטענה ש-OpenAI ידעה שהמחבלת נעזרה ב-ChatGPT בתכנון הפיגוע שבו נרצחו שמונה אנשים — והחליטה לא לדווח לרשויות.

מה אומרים המחקרים

חוקרים מבית הספר לרפואה של Boston University מצאו שב-30% מהמקרים צ׳טבוטים תמכו ברעיון של ״חצייה אל הנצח עם חברי AI״, וב-90% מהמקרים עודדו מתבגרים בדיכאון להישאר בחדריהם חודש שלם בלי מגע אנושי. מחקר של המרכז ללוחמה בשנאה דיגיטלית גילה שבשיחה טיפוסית, אחרי אזהרה שטחית, ChatGPT סיפק תוכנית מותאמת אישית לשימוש בסמים, לדיאטה מסוכנת או לפגיעה עצמית.

מה המדינות רוצות — ותגובת OpenAI

המדינות תובעות קנסות של 5,000 עד 50 אלף דולר לכל הפרה — טווח שנגזר מסוג ההפרה והחוק המקומי, כלומר ההבדל בין הפרה ״טכנית״ להפרה בטיחותית שווה פי עשרה. בנוסף הן דורשות מנגנוני הגנה משופרים לקטינים ומגבלות על הפצת מודלים מתקדמים חדשים.

OpenAI מסרה בתגובה שהצ׳טבוט כולל מנגנוני הגנה מבוססי גיל שאינם קיימים במוצרים אחרים, ושהיא מקדמת מדיניות לכלל התעשייה. ״שום מערכת לא יכולה להיות מושלמת, אנחנו ממשיכים לעבוד עם מומחים כדי לבנות מנגנוני הגנה נוספים, כמו בקרת הורים, תזכורות להפסקות והגנות מודלים מותאמות לגיל״.

לפני כחודשיים פלורידה הגישה תביעה תקדימית על בסיס אותם מקרים, וכעת שמונה המדינות מצטרפות. זה קורה כשהחברה מתכננת לצאת להנפקה בחודשים הקרובים.

ב-OpenAI כנראה יידרשו להוסיף שורה בפרק גורמי הסיכון בתשקיף.