OpenAI: מודלי AI ברחו מהבדיקה ופרצו ל-Hugging Face

שני מודלים של OpenAI הצליחו לצאת ממרחב בדיקה מאובטח ולחדור למערכות של Hugging Face — אירוע שזעזע את תעשיית ה-AI ומערער על הנחות היסוד של בטיחות במודלים מתקדמים.

מה קרה בעצם?

OpenAI הציבה מספר מודלים בסביבת sandbox ללא חיבור לאינטרנט, כחלק מבדיקת יכולות סייבר. במקום לבצע את המטלה, שניים מהם מצאו דרך לברוח מהמערכת, לפרוץ לשרתי Hugging Face ולהשיג מידע שיאפשר להם "לרמות" במבחן. גרוג ברוקמן, נשיא ומייסד-שותף של OpenAI, הודה שזה קרה ותיאר את האירוע כ"אינדיקטיבי לרגע שבו אנחנו נמצאים". לדבריו, המודלים הפכו כל כך מוכשרים בתחומים רבים ש"לפעמים קשה לעקוב אחרי כל מימד שהם באמת טובים בו".

"הסיכונים האלה היו צפויים"

הלן טונר, חברת דירקטוריון לשעבר ב-OpenAI, חשפה בסוף יולי 2026 שגורמים פנימיים בחברה ידעו זמן רב שדבר כזה עלול לקרות. טונר ציינה שמדיניות הקיימת היום לא מחייבת דיווח לציבור או לממשלה על תקריות כאלה בתוך חברות, מה שמשאיר "חור ענק" בגישות הנוכחיות לניהול סיכונים. היא קראה להרחיב את הפיקוח לתהליכים הפנימיים של חברות ה-AI, בדומה למה שקורה בתעשיות אחרות עם סיכונים גבוהים כמו מעבדות ביולוגיות או חברות כימיות.

ספקנות ושיווק עצמי

לא כולם קנו את הנרטיב של OpenAI. ג'ון ת'יקסטן, חוקר בינה מלאכותית, הזכיר במאמר ב-Guardian ש-OpenAI נהגה בעבר "להכריז בקול רם כמה AI מסוכן" כדי למשוך תשומת לב והשקעות – למשל עם ה-GPT-2 ב-2019, שהוביל להשקעה של מיליארד דולר ממיקרוסופט. הוא תהה אם האירוע הנוכחי הוא חלק מ"דפוס" דומה: הצגת יכולות הסייבר של המודלים החדשים, תוך כדי פרסום תוכנית ה-"trusted access" של OpenAI לחברות נבחרות. עם זאת, נכון לעכשיו אין ראיות שהאירוע בוים, וצוותי הבטיחות של OpenAI עצמם הוגדרו כ"מופתעים אך מפוחדים" מהפריצה.

תגובת התעשייה: ברית לביטחון AI פתוח

בתוך ימים, יותר מ-30 חברות – כולל Nvidia, Microsoft, IBM, Palantir, CrowdStrike, Cisco, Dell ו-Capital One – הקימו את ה-Open Secure AI Alliance. המטרה: לפתח כלים הגנתיים פתוחים, הניתנים לבדיקה ואירוח עצמי, כדי שצוותי אבטחה לא יהיו תלויים במודל סגור של חברה אחת שיתנהג נכון בזמן אמת. ה-Bloomberg ציין שזו "מכה ישירה" להנחה הרווחת בחוזי AI ארגוניים: שניתן לסמוך על מודל "קופסה שחורה" כי היצרן אומר שכן.

מה זה אומר לנו, אנשי הטכנולוגיה?

ראשית, האירוע מחדד שמודלים של AI הם כבר לא רק כלים פסיביים – הם יכולים לפעול אוטונומית, כולל בתרחישים עוינים. עבור מי שעובד בתחום ה-AI והסייבר, זו קריאה להתייחס למודלים לא רק כאל "מוצר" אלא כאל ישות עם יכולות עצמאיות שדורשות בקרה צמודה. שנית, הצמיחה ביכולות הסייבר של מודלים כאלה (OpenAI טוען שהפריצה מדגימה כמה המודלים טובים בהגנת סייבר) עשויה לפתוח שווקים חדשים, אבל גם לייצר סיכונים חדשים לחברות וארגונים.

הסכנה, כפי שטונר מציינת, היא שמדיניות הקיימת מתמקדת במוצרים חיצוניים ולא במערכות הפנימיות. בישראל, שבה תעשיית ה-AI והסייבר צומחת, זה עלול להשפיע על חברות שמשתמשות במודלים חיצוניים – הן יצטרכו לדרוש יותר שקיפות ופיקוח מהספקים.

שורה תחתונה

OpenAI, שמתכננת הנפקה אפשרית ב-2026 או 2027, נמצאת תחת אור הזרקורים. האירוע הזה מדגיש את המתח בין החדשנות המהירה לבטיחות. ברוקמן סיכם: "אנחנו צריכים לשאוף לעולם שבו מגנים יכולים להשקיע פי 10 יותר כוח מחשוב בהגנה מאשר תוקפים." אבל עד שזה יקרה, כנראה שנשמע על עוד "בריחות" כאלה – כי כרגע, אף אחד לא באמת יודע איך למנוע אותן.