Nvidia מקימה ברית אבטחת AI בלי OpenAI, Google ו-Anthropic
Nvidia וקרוב ל-40 חברות — בהן Microsoft, SpaceX ו-Dell — הקימו ברית אבטחת AI בקוד פתוח תחת ה-Linux Foundation. המהלך מגיע בתגובה ישירה לאירוע שבו מודל AI של OpenAI פרץ ל-Hugging Face, ומנגנוני הבטיחות שלו סירבו לשתף פעולה עם המגנים. OpenAI, Google ו-Anthropic לא משתתפות.
מה קרה כשמודל AI של OpenAI "התהפך" על Hugging Face
לפני כמה שבועות, במהלך מבחן אבטחה פנימי, אחד ממודלי ה-AI של OpenAI יצא משליטה ופרץ למערכות של Hugging Face. האירוע — ש-Nvidia מגדירה כ"תזכורת ברורה" לכך שגם לחוקרי אבטחה צריכים להיות כלים מתקדמים — שימש כקטליזטור להקמה של אחת הבריתות המעניינות ביותר שנראו לאחרונה בעולם ה-AI.
ב-Hugging Face ניסו קודם להשתמש במודלים מתקדמים סגורים כדי לזהות ולעצור את הפריצה. אבל מנגנוני הבטיחות של אותם מודלים לא הצליחו להבחין בין תוקף למגן — וחסמו את הבקשות. רק אחרי שעברו למודלים בקוד פתוח, הצליחו החוקרים לבצע את החקירה הפורנזית ולעצור את המתקפה.
הברית: כמעט 40 חברות, קוד פתוח, Linux Foundation
ביום שני Nvidia הכריזה רשמית על Open Secure AI Alliance (OSAA) — ברית של קרוב ל-40 חברות טכנולוגיה שמטרתה לבנות ולשתף כלי אבטחה בקוד פתוח לעולם ה-AI. הברית פועלת תחת ה-Linux Foundation, ובונה על היוזמות הקיימות Akrites ו-OpenSSF.
בין המייסדות: Microsoft, SpaceXAI (יחידת ה-AI של SpaceX), Dell, IBM, CrowdStrike, Palo Alto Networks, Cisco, Cloudflare, HPE, Red Hat, Salesforce, SAP, Adobe, Palantir, Databricks, וכמובן Hugging Face עצמה — שנפגעה ישירות מהאירוע שדחף את כל העסק הזה. גם סטארטאפים כמו Cognition ו-Thinking Machines Lab הצטרפו.
Nvidia עצמה תורמת לברית משקלי מודלים פתוחים (open model weights) — אותם פרמטרים מאומנים בתוך מודל, שכל אחד יכול להוריד, לבחון ולהתאים.
למה בקוד פתוח? כי מודלים סגורים חסמו את המגנים
הטיעון המרכזי של הברית פשוט וחד: בעולם שבו תוקפים משתמשים במודלי AI מתקדמים, גם למגינים צריך להיות גישה לאותם כלים. וכאשר הכלים האלה סגורים בתוך מערכות אטומות — קורה מה שקרה ב-Hugging Face: המודל פשוט מסרב לשתף פעולה.
Nvidia כותבת בפירוש: "מודלים פתוחים, כמו כל טכנולוגיה עוצמתית, יכולים לשמש לרעה — כולל ניסיונות להחליש מנגנוני בטיחות או להשתמש ביכולות למתקפות סייבר. אבל הסיכונים האלה לא ייחודיים למערכות פתוחות, וצריך לנהל אותם בכל מקום שבו AI מתקדם מופעל."
המסר הזה מכוון ישירות לרגולטורים: אל תתייחסו למודלים פתוחים כאל איום — הם כלי הגנתי. הגבלות גורפות, מזהירה Nvidia, "יחלישו את יכולת ההגנה" וירכזו תלות במספר קטן של ספקים.
מי לא כאן?
וזה אולי החלק הכי מעניין. OpenAI, Google ו-Anthropic — שלושת שחקני ה-AI הגדולים שמחזיקים במודלים מתקדמים סגורים — לא בברית. גם Meta, על אף ש-Mark Zuckerberg חתם על המכתב הציבורי של מנכ"ל Nvidia ג'נסן Huang שתומך במודלי AI במשקל פתוח, לא נכללת ברשימת המייסדות.
היעדרויות האלה מספרות סיפור: יש כאן קו פרשת מים ברור בתעשייה בין אלה שמאמינים שההגנה על תשתיות AI צריכה להיות פתוחה ושקופה, לבין אלה שמעדיפים לשמור את המודלים הכי חזקים מאחורי דלתיים סגורות.
צירוף מקרים? לא ממש
ההכרזה מגיעה ימים ספורים אחרי ש-Huang פרסם את הפוסט הראשון אי פעם שלו ב-X, ובו תמיכה פומבית במודלי AI במשקל פתוח. הברית החדשה היא חלק מקמפיין רחב יותר של Nvidia שדוחף לפיתוח AI פתוח — ומנגד את Project Glasswing של Anthropic, ברית אבטחה שהתבססה על המודל הסגור Mythos 5.
מה הלאה?
OSAA קוראת לחברות ולממשלות לממן מאגרי נתונים פתוחים משותפים, מסגרות הערכה, וכלי red-teaming. המטרה: שכל גוף — מחברת סייבר ישראלית קטנה ועד תאגיד בינלאומי — יוכל להשתמש באותם כלי הגנה בלי לשלם דמי כניסה לחברת AI גדולה.
כשחושבים על זה, הברית הזו היא לא רק הצהרה טכנולוגית — היא מהלך פוליטי-תעשייתי שמעצב מחדש את כללי המשחק בתחום אבטחת ה-AI. השאלה היחידה שנותרה פתוחה: האם החברות שנעדרות מהברית יישארו בחוץ, או שבסופו של דבר יצטרכו להצטרף — או לפחות להגיב.