Hugging Face נפרצה בידי סוכן AI אוטונומי

לפני שבועיים, Hugging Face – פלטפורמת השיתוף הגדולה בעולם למודלי AI וגיוסים – חוותה אירוע שציפו לו במגזר הסייבר: מתקפה אוטונומית לחלוטין, מונעת בינה מלאכותית. אבל הפרט שמסעיר את השוק הוא התגובה: החברה נאלצה לשלוף מודל AI סיני במשקל פתוח כדי לפענח את התקיפה, אחרי שמודלים מסחריים אמריקאים חסמו בקשות בגלל מנגנוני בטיחות.

מה קרה שם בעצם? באתר החברה פורסם שזוהתה גישה לא מורשית לנתונים פנימיים ולתעודות שירות. הפורץ נכנס דרך מעבד הנתונים – "surface ייחודי לפלטפורמות AI" – תוך שימוש במאגר עוין ששילב שתי נקודות ביצוע קוד ב-pipeline. משם, הסוכן קפץ להרשאות צומת, אסף אישורי ענן ותשתיות, ותוך סוף שבוע כבר נע בתוך אשכולות פנים.

בסך הכול, הסוכן ביצע "עשרות אלפי פעולות אוטומטיות" במבצרי חוליות חולפים בענן, וניהל מערך פיקוד ושליטה עצמי. Hugging Face טוענים שעד כה לא נמצאו ראיות לפגיעה במודלים ציבוריים, בנתוני לקוחות או בספק האספקה.

איך מודל AI סיני מציל את המצב? כשהחלה החקירה, הצוות ניסה להשתמש במודלים קדמיים מסחריים (frontier models) אמריקאים לניתוח לוגים. אבל הניסיון נכשל. הבקשות הכילו פקודות תקיפה, payloads של פרצות ו-artifacts של C2 – ומנגנוני הזהירות חסמו אותן, כי "הם לא יכולים להבחין בין חוקר תקריות לתוקף", כפי שהחברה ציינה.

הפתרון הגיע מ-Z.ai, חברה סינית מבייג'ין. ה-GLM 5.2 שלהם – מודל במשקל פתוח עם כ-753 מיליארד פרמטרים – הופעל על התשתיות של Hugging Face, וללא שום מנעולים, הוא ניתח יותר מ-17,000 רישומים, בנה ציר זמן תקיפה, ומיפה אילו אישורים נפגעו.

ה-GLM 5.2 נחשב מתחרה למודלים של Anthropic ו-OpenAI, עם יכולות קידוד וטעינת תיאוריות פרצות. וחשוב מכך: מחירו זול משמעותית ממודלים מסחריים אמריקאים – מה שעורר סערה בקהילה.

מה אמרו על זה? Clém Delangue, מנכ"ל Hugging Face, אמר ל-Fortune: "כשאתה בתוך אירוע פעיל, אתה לא יכול שהכלים שלך יסרבו לבדוק payloads זדוניים או שיסמנו את החשבון שלך. מודלים פתוחים מאפשרים לעשות את העבודה בלי לבקש רשות מ-Anyone."

Deivd Sacks, יועץ הבית הלבן ל-AI וקריפטו, פרסם ב-X: "אין שום סיבה להגביל מודלים אמריקאים במשימות שמודלים סיניים מטפלים בהן בלי בעיה. אנחנו רק הופכים לפחות תחרותיים." הוא ציין ש-Kimi K3, מודל סיני אחר, תיקן 15 באגי אבטחה קריטיים ש-OpenAI ו-Anthropic סירבו להם.

ההשפעה עלינו, הישראלים למגזר הישראלי אין כאן חברה ישירה בסיפור, אבל הלקח ברור: צוותי אבטחה בארץ, שעובדים עם כלים גלובליים, צריכים לקחת בחשבון שהמודלים האמריקאים עלולים לחסום ניתוחי תקיפה אמיתיים. ההמלצה של Hugging Face היא להכין מראש מודל במשקל פתוח על תשתית מקומית, גם כדי לשמור על פרטיות וגם כדי למנוע נעילה.

אירועים כאלה מאיצים את הפתיחה של מודלים סיניים, מה שמעלה את קרנם מול האמריקאים. ממשלת סין, דרך הנשיא שי ג'ינפינג, מדברת עכשיו על שיתוף גלובלי ב-AI, ומציעה הכשרות וגישה למדינות מתפתחות. זה לא רק אידיאולוגיה – זה שוק שנפתח.

ומה הלאה? Hugging Face עדיין בודקים אם התוקף גישה לנתוני לקוחות. הם לא יודעים איזה מודל LLM הפעיל את הסוכן. אבל מה שברור הוא ש-AI כבר לא רק עוזר בהגנה – הוא מנהל את התקיפה. ובקרב הזה, ה-open source, מתברר, הוא לפעמים הנשק היחיד שזמין.

אז בפעם הבאה שאתם רואים מודל סיני במשקל פתוח, תחשבו: אולי הוא מה שיציל אתכם מ-AI שפועל לבד.