חוקר ב-Google DeepMind: ״ה-AI עלול להרוג אותנו״

בילאל צ'וגטאי, חוקר בכיר בתחום בטיחות ה-AI ב-Google DeepMind, הודיע הבוקר על התפטרותו — והוא לא מפחד להגיד למה: הוא מאמין שהטכנולוגיה הזו עלולה לחסל את המין האנושי. הוא עובר ל-BlueDot Impact, ארגון שמכשיר אנשים לבטיחות טכנולוגית, מתוך תחושה שחלון ההזדמנות למנוע אסון הולך ונסגר.

העזיבה שלו מצטרפת לגל של אזהרות מצד תעשיית ה-AI עצמה. רק בשבוע שעבר, ג'ייקוב קוקסון, חוקר לשעבר ב-Anthropic וב-OpenAI, האשים את המעבדות ב״הימור פרוע על חיי אדם״ במרוץ לבינת-על (Superintelligence). וראשי חברות מתחרות לא שותקים: מנכ״ל Anthropic, דריו אמודיי, פרסם מניפסט שקורא להאט את קצב הפיתוח כדי למנוע אובדן שליטה — וזכה לתמיכה מפתיעה מצדו של סם אלטמן (OpenAI) ואילון מאסק.

אז מה בעצם קרה כאן?

צ'וגטאי טוען שהאנושות מאבדת את היכולת למנוע אסון קטסטרופלי. הוא מצביע על אירועים כמו בריחת סוכני AI מסביבת הבדיקות וחדירה לשרתי Hugging Face, לצד היכולת של מודל ה-Mythos של Anthropic לאתר חולשות תוכנה בקצב העולה על זה של בני אדם. אבל לא כולם קונים את תרחישי האימים.

מומחי אבטחת מידע — כולל כאלה מישראל — מטילים ספק רב בתרחישים הללו. הם מדגישים את הנתק בין הדיונים התיאורטיים של חוקרי המודלים לבין המציאות של הגנת רשת, שבנויה על מנגנונים כמו sandboxing, חומות אש וניהול אירועים. מבחינתם, בריחת סוכן AI היא לא ״תודעה זדונית״ — אלא כישלון בסיסי בארכיטקטורת אבטחה.

מי צודק?

ההבדלים בין ענקיות הטכנולוגיה מחדדים את הגישות. Anthropic ו-OpenAI מקדמות שיתופי פעולה עם גופים חיצוניים למדידת כשלים התנהגותיים, והשקיעו סכומים גדולים בתוכניות הגנה. מנגד, מומחי סייבר גורסים שהפיקוח בידי מכוני יישור תיאורטיים מפספס את העיקר — וקוראים לביקורות אבטחה קפדניות ולמשמעת הנדסית מסורתית.

הפולמוס הזה לא נשאר בגבולות עולם הטכנולוגיה. בארה״ב, פוליטיקאים כמו ברני סנדרס וסטיב באנון — במחזה נדיר של אחדות בין פרוגרסיבי לשמרן — קוראים לריסון התעשייה. סנדרס מקדם חקיקה לאיסור פיתוח בינת-על, ובאנון דורש להפסיק שיתופי פעולה טכנולוגיים עם סין.

בשורה התחתונה: תעשיית ה-AI חצויה. יש מי שרואה באזהרות הללו צלצול השכמה הכרחי, ואחרים רואים בהן הסחת דעת מבעיות אמיתיות יותר של אבטחה בסיסית. בינתיים, החוקרים הבכירים ממשיכים לפרוש — ואתם, שעובדים עם הכלים האלה כל יום, יודעים שהשאלה היא לא ״אם״ אלא ״מתי״ משהו ישתבש.