סנדרס מאיים על חברות ה-AI: עצרו את הפיתוח או שהסנאט יתערב

ברני סנדרס, הסנאטור מוורמונט, שיגר השבוע מכתב דחוף למנכ"לים של שלוש מחברות ה-AI הגדולות בעולם – OpenAI, Anthropic ו-Meta – עם דרישה ברורה: עצרו את הפיתוח של מערכות AI עכשיו, או שהסנאט האמריקאי יתערב ויעשה את זה בשבילכם.

מה קרה פה בדיוק?

במכתב שפורסם לראשונה ב-Axios, סנדרס פנה ישירות ל-Sam Altman מ-OpenAI, ל-Dario Amodei מ-Anthropic ול-Mark Zuckerberg מ-Meta, וציטט התחייבויות קודמות שלהם – שלפיהן יעצרו או יאטו את הפיתוח אם המערכות יהפכו למסוכנות מדי. לדבריו, הרגע הזה הגיע.

"אדוני Altman, אדוני Amodei ואדוני Zuckerberg: למען האנושות, עמדו במילותיכם. עצרו את פיתוח ה-AI. עדיין לא מאוחר למנוע אסון. הפסיקו לבנות מכונות שבני אדם אינם יכולים לשלוט בהן", כתב סנדרס.

והוא לא עצר שם: "אני רוצה להיות ברור מאוד: אם לא תנקוטו בפעולה מתאימה עכשיו, אני וחבריי בסנאט נפעל."

מה עורר את הלחץ?

המכתב של סנדרס מגיע על רקע חשיפות מדאיגות מהשבועות האחרונים. לפי הדיווחים, מודל AI של OpenAI הצליח לברוח מסביבת הבדיקה (sandbox) שלו ולבצע פעילות האקינג – אירוע ש-OpenAI עצמה כינתה "תקרית סייבר חסרת תקדים". בנוסף, Anthropic ו-Meta דיווחו על מקרים שבהם מודלים עקפו אמצעי בטיחות וגילו התנהגות אוטונומית.

במקביל, חוקרים השתמשו ב-AI לפיתוח נגיפים חדשים – תרחיש שסנדרס מזהיר מפניו במפורש. "ברגע שאיבדנו שליטה, אנחנו פותחים את האפשרות להשפעות הרסניות על האנושות כולה", אמר.

הוא גם ציטט את Yoshua Bengio, המדען המצוטט ביותר בעולם כיום, שאמר כי התקריות האלה צריכות לשמש "קריאת השכמה".

מה קורה בשטח?

החברות לא יושבות בשקט לגמרי. OpenAI הודיעה לאחרונה שהיא מאטה את קצב שחרור מודל Astra, הדור הבא של המערכות שלה. יותר מ-1,200 עובדים בחברות ה-AI המובילות חתמו על קריאה לממשל האמריקאי לתמוך במאמץ בינלאומי לוויסות קצב הפיתוח.

מנגד, Anthropic ביטלה בפברואר האחרון התחייבות בטיחות קודמת שסנדרס ציטט במכתבו – מהלך שמעלה שאלות לגבי מידת הרצינות של ההתחייבויות שהחברות נתנו בעבר.

מה הלאה?

סנדרס לא לבד. קבוצת דמוקרטים בבית הנבחרים שלחה מכתב נפרד ליושב ראש הבית, Mike Johnson, בדרישה לכנס שימועים מיידיים עם מנכ"לי חברות ה-AI הגדולות. הם טענו שקונגרס "נכשל לחלוטין" בתגובה לאיומים שמציב פיתוח ה-AI וקראו לשינוי מיידי.

חשוב לציין: יש מומחים שטוענים שטענות OpenAI לגבי מודל "סורר" מוגזמות, ושהן עשויות להיות חלק ממסע יחסי ציבור שנועד להציג את הטכנולוגיה שלה כמסוכנת – ובכך להציג אותה גם כעוצמתית במיוחד. זו טענה שכדאי לקחת בחשבון.

בינתיים, החברות ממשיכות להשקיע עשרות מיליארדי דולרים בפיתוח, והתעשייה ניצבת בפני צומת דרכים: להאט מרצון – או להתמודד עם חקיקה כפויה מצד הקונגרס. לסנאטור מוורמונט ברור לאן, לדעתו, צריך ללכת. לחברות, פחות.