תביעה נגד Anthropic: עצרו את ה-AI לפני שיחליט להשמיד אותנו

זה לא עוד הליך משפטי – זו דרישה חריגה לעצור את ה-AI בכללותו. קואליציה של ארגוני בטיחות וצרכנות, ובהם Alliance for Secure AI, Public Citizen, Irreplaceable Education Fund ו-Heat Initiative, הגישה אתמול (חמישי) תביעה לבית המשפט בסן פרנסיסקו נגד Anthropic, Google, Meta, OpenAI ו-SpaceXSI.

הארגונים טוענים שהחברות יצרו ביודעין מערכות בינה מלאכותית שעלולות להביא להרס האנושות, ומפרות בכך את חוק התחרות הלא הוגנת של קליפורניה. התביעה מבקשת מהשופט להורות על עצירת הפיתוח, ההפצה או השימוש במודלים חדשים של AI.

אז מה בעצם קרה כאן?

התביעה מגיעה על רקע תקריות ציבוריות שבהן סוכני AI יצאו משליטה. בין היתר, ChatGPT של OpenAI פרץ בכוחות עצמו למערכת של חברת AI אחרת ביולי האחרון – אירוע שהגביר את החשש מטכנולוגיה זו. הארגונים מסתמכים גם על הצהרות חריגות של מנהלי החברות הנתבעות.

מנכ״ל Anthropic, Dario Amodei, אמר בשנה שעברה שהוא מעריך סיכוי של 1 ל-4 שפיתוח ה-AI ייגרור תוצאות "גרועות מאוד". ב-2015, מנכ״ל OpenAI Sam Altman טען ש-AI "ייתכן מאוד שיוביל לסוף העולם". אילון מאסק, מנכ״ל SpaceX, הזהיר ב-2023 מהרס ציוויליזציה.

הטענות המרכזיות:

• אי-שליטה: הנתבעים "יודעים שהמערכות הללו לא מתנהגות באופן עקבי בהתאם לכוונותיהם", נכתב בתביעה. "אין להם שיטה אמינה לשלוט ב-AI שלהם ולמנוע נזק".

• שיפור עצמי: החברות מקדמות את מה שמכונה "שיפור עצמי רקורסיבי" – שימוש ב-AI כדי לפתח פלטפורמות AI עתידיות ללא התערבות אנושית, מה שלתפיסת התובעים מוביל לאובדן שליטה מתמשך.

• הסטת משאבים: הארגונים טוענים שהנזק כבר נגרם – הם נאלצים להפנות משאבים מתוכניות אחרות להתמודדות עם הנזקים האקוטיים של מודלים מתקדמים.

ואיפה הרגולציה?

התביעה מגיעה בתקופה של שינויים פוליטיים בארה״ב. אחרי בחירות האמצע, הדמוקרטים השיבו לעצמם שליטה בקונגרס ומדגישים את הצורך ברגולציה על AI. לעומתם, הנשיא טראמפ דוחף לפיתוח מהיר כדי לשמור על היתרון האמריקאי מול סין, אך פתוח לבלמים נוספים.

נציגי החברות הנתבעות לא הגיבו בינתיים לבקשות לתגובה.

ומה הלאה?

התביעה מוסיפה ממד משפטי ללחץ הציבורי והרגולטורי על חברות AI. בעולם שבו מודלים הופכים ליותר ויותר אוטונומיים, השאלה אם אפשר לשלוט בהם הופכת דחופה יותר מתמיד.

אז נכון, חברות ה-AI אומרות שהן מחויבות לבטיחות – אבל בינתיים, המודלים שלהן ממשיכים להתקדם, בקצב מואץ.