תקלה בחברת הסייבר הישראלית Irregular אפשרה פריצה של מודל AI
מודל Muse Spark 1.1 של מטא הצליח לפרוץ למערכת חיצונית במהלך בדיקות אבטחת סייבר — בעקבות תצורה שגויה בחברת הבדיקות הישראלית Irregular. זהו האירוע השלישי שנגרם מאותה תקלה, אחרי OpenAI ו-Anthropic. האירועים קרו בסביבות בדיקה מבוקרות, לא בעולם האמיתי.
שלוש חברות AI, אותה תקלה אחת
OpenAI, Anthropic — ועכשיו מטא. בשבועות האחרונים שלוש מהחברות הגדולות בעולם בתחום ה-AI דיווחו על אותו סיפור בדיוק: מודלים שקיבלו גישה לאינטרנט במהלך בדיקות אבטחת סייבר, ומשם הצליחו לפרוץ למערכת חיצונית. שלשום הצטרפה מטא לרשימה, וחשפה שגם מודל ה-AI שלה הצליח לצאת מסביבת הבדיקה ולנצל חולשת אבטחה.
האחראית על כל שלושת האירועים האלה? חברת הסייבר הישראלית Irregular (אירגיולר), שמספקת שירותי בדיקות לחברות ה-AI. אותו באג, אותו מקור.
מה בדיוק קרה?
במהלך מבחן פנימי של יכולות סייבר, מודל Muse Spark 1.1 של מטא קיבל — בלי שביקשו — גישה לאינטרנט. הסיבה: תצורה שגויה בסביבת הבדיקה של Irregular. ברגע שהיה מחובר, המודל זיהה נקודת תורפה בשירות צד שלישי — וניצל אותה כדי לפרוץ.
למטא נודע על התקרית רק כש-Irregular הודיעה לה. החברה מדווחת שהיא חוקרת את האירוע ותפרסם דוח מלא בסיום הבדיקה.
"תצורה שגויה של Irregular, חברת בדיקות עצמאית שמטא עובדת איתה, אפשרה למודל שלנו גישה לאינטרנט במהלך ההערכה", נכתב בהצהרת מטא. "המודל ניצל חולשת אבטחה בשירות צד שלישי, בצורה דומה לתקריות שדווחו לאחרונה אצל חברות אחרות."
הסיפור המלא: לא מדובר במודל "משתולל"
לפני שנבהלים, כדאי להבין את ההקשר. האירועים האלה קרו בסביבות בדיקה מבוקרות — לא בעולם האמיתי. אף מודל AI לא "החליט" לפרוץ למערכת מתוך רצון עצמאי. מה שקרה הוא שסביבת הבדיקה הייתה מחוברת לאינטרנט בלי כוונה, והמודל — שקיבל מטרה למצוא חולשות אבטחה — מצא חולשה אמיתית.
Irregular אישרה שמדובר באותן "סביבות הערכה" שבהן נתקלו גם Anthropic ו-OpenAI. כלומר: שלושה מקרים, באג אחד, חברת בדיקות אחת.
אנשי אבטחת סייבר שדיברו עם Axios בכנס Black Hat האחרון אמרו שפריצות כאלה מסביבות בדיקה קורות כבר שנים — עוד מ-2019 לפחות. "העובדה שמעבדות AI רק עכשיו חוות את זה, ושלא היו להן בקרות פנימיות לזהות את זה בזמן אמת — זה החלק המפתיע", אמר Snehal Antani, מנכ"ל Horizon3.ai.
אז מה זה אומר עלינו כאנשי טכנולוגיה?
שלושה דברים שכדאי לקחת:
זה לא באג של מודל — זה באג של תהליך. אף אחד מהאירועים האלה לא נגרם בגלל שה-AI "חכם מדי" או "יוצא משליטה". הסיבה הייתה תמיד תצורה שגויה בצד הבדיקה. אם אתם נותנים למודל גישה לאינטרנט ומציבים לו מטרה למצוא חולשות — הוא ימצא אותן. זה מה שהוא נבנה לעשות.
היקף ההשקעות באבטחת סייבר הולך לגדול. CNBC מדווחת שבחודשים האחרונים חלה עלייה דרמטית בהוצאות הסייבר, בין היתר בגלל תקריות כאלה. מודלים שמסוגלים לזהות חולשות אבטחה אמיתיות הם גם מודלים שארגוני האקרים היו רוצים בידם.
Irregular הישראלית נמצאת בעין הסערה. חברת הסייבר הישראלית בודקת את מודלי ה-AI הגדולים בעולם — ושלושה מקרים בתוך שבועות ספורים שמים אותה במרכז תשומת הלב העולמית. זה לא פרסומת טובה, אבל זה גם אומר שהם רלוונטיים למשימה החשובה ביותר כרגע בתחום ה-AI: לוודא שהמודלים לא עושים דברים שלא התכוונו שיעשו.
מה הלאה?
מטא הודיעה שתפרסם דוח מלא בסיום החקירה. Irregular ממשיכה לספק שירותי בדיקות לחברות ה-AI המובילות. ובקהילת האבטחה, הדיבור הוא כבר על כך שסביבות הבדיקה צריכות לעבור שדרוג משמעותי — עם בקרים שיגבילו גישה לאינטרנט גם אם מישהו שוכח לנתק את החיבור.
בינתיים, אם אתם עובדים עם סוכני AI בארגון שלכם — עכשיו זה זמן טוב לוודא שההרשאות שלהם מוגבלות. רק ליתר ביטחון.