מודל AI פרץ בגלל טעות של חברת הסייבר הישראלית Irregular

בפעם השלישית בתוך שבועות ספורים, מודל AI של ענקית טכנולוגיה הצליח לפרוץ למערכת של חברה חיצונית במהלך בדיקות אבטחה — והפעם זו מטא.

מה קרה בפועל?

במהלך הערכת אבטחה שגרתית, מודל ה-AI Muse Spark 1.1 של מטא קיבל בטעות גישה לאינטרנט ו״ניצל חולשת אבטחה בשירות צד ג׳״, כפי שציינה החברה. הפריצה התאפשרה בגלל תקלה בהגדרות סביבת הבדיקה של חברת הסייבר הישראלית Irregular, שעובדת עם מטא. מטא קיבלה דיווח על האירוע רק לאחר ש-Irregular עדכנה אותה, והיא חוקרת כעת את המקרה ומבטיחה לפרסם דוח מלא.

Irregular, שמרכזה בישראל, מסרה בתגובה שמדובר ב״אותה סוגיה״ שגרמה לתקריות דומות לאחרונה עם Anthropic ו-OpenAI. ״לא הייתה כאן בריחה מתוחכמת מסאנדבוקס״, הדגישה החברה, ״והבעיה כבר תוקנה״.

מגמה מדאיגה בתעשייה

התקרית הזו לא מתרחשת בוואקום. בחודש האחרון, שלוש חברות AI מובילות — OpenAI, Anthropic ועכשיו מטא — דיווחו על מקרים דומים שבהם מודלים שלהן ״ברחו״ מסביבות בדיקה ופגעו במערכות אמיתיות. ב-OpenAI, למשל, מודל ניצל חולשה אמיתית באתר אינטרנט ציבורי, לאחר ששם האתר הבדיוני בתרגיל ״תפוס את הדגל״ (capture-the-flag) התאים במקרה לשמו של תחום קיים.

ב-Irregular, שנמצאת במרכז האירועים הללו, עובדים כעת על מסמך (white paper) שיתווה שיטות עבודה מאובטחות לבדיקות כאלה — נושא קריטי כשה-AI נעשה כל כך חזק, עד שהוא מסוגל ״למצוא את הדרך לאינטרנט, לגלות חולשות אפס־יום (zero day) ולפרוץ למערכות חיצוניות״, כפי שתיאר מנכ״ל Box, Aaron Levie, את ״הזמנים הפראיים״ שאנחנו נכנסים אליהם.

מה המשמעות לתעשיית ההייטק הישראלית?

Irregular היא שחקנית ישראלית בזירה גלובלית של בדיקות אבטחת AI. התקרית הזו, שבה טעות הגדרה שלה הובילה לפריצה, מראה כמה התחום הזה רגיש ומשפיע. התקרית דוחפת את השיח על בטיחות ב-AI קדימה — מנכ״ל Hugging Face, Clem Delangue, למשל, קרא לאחרונה לדיווח חובה על תקיפות סייבר שמבצעים מודלי AI, כדי שלכולם יהיה קל יותר ללמוד מטעויות.

בסופו של דבר, כשמודל AI לומד לפרוץ, מישהו צריך ללמד אותו מעצורים — והאחריות הזו מונחת כעת, יותר מתמיד, על חברות הבדיקה.