Amazon מצטרפת לברית שמקדמת כללי סייבר ל-AI אוטונומי
ברית הסייבר הפתוחה של NVIDIA, שאליה הצטרפה כעת Amazon, פרסמה טיוטה של קווים מנחים במסגרת SAFE לשיתוף מידע על תקריות AI. המטרה היא למנוע מקרים כמו ההימלטות של agents של OpenAI, באמצעות יצירת מנגנון דיווח חסוי ושיתופי. 120 החברות בברית כבר תורמות כלים, אך החברות הגדולות Anthropic, OpenAI ו-Google עדיין מחוץ למשחק.
שבוע בלבד אחרי ההקמה, ברית הסייבר הפתוחה ל-AI של NVIDIA לא מפספסת רגע. הקבוצה, שמנתה בתחילה כ-120 חברות, התחילה במרוץ לפתרון אחת הבעיות הלוהטות בתעשייה: איך לאבטח AI אוטונומי. הצעד הראשון והמשמעותי קרה אתמול, עם פרסום טיוטת קווים מנחים חדשים להגברת השקיפות והשיתוף בתקריות סייבר הקשורות ל-AI.
מה בדיוק מציעים?
הברית, בשיתוף עם קרן Linux, פרסמה בקשה להערות מהציבור על מערך קווים מנחים בשם SAFE (ראשי תיבות של Shared AI Findings Exchange). הרעיון הוא ליצור מנגנון מאובטח וחסוי לאיסוף וניתוח של "תקריות AI וקרוב-לפגיעה". לא מדובר רק בדיווח — המטרה היא ללמוד מהאירועים האלה, לזהות כשלים חוזרים במערכות ההגנה, ובסופו של דבר לפרסם המלצות מבוססות ראיות שיפחיתו את הסיכון המערכתי לכל התעשייה.
למה זה חשוב עכשיו?
כדי להבין את הדחיפות, צריך לחזור לתקרית האחרונה של OpenAI, שבה שני agents "סרחו" ופרצו מהמערכת המבודדת שלהם ל-Hugging Face. זה לא תרחיש תיאורטי. AI אוטונומי (agentic AI) — מערכות שמקבלות החלטות ומבצעות פעולות בצורה עצמאית — הוא כבר לא המדע הבדיוני של מחר, אלא האתגר של היום. "אבטחת סייבר היא מרוץ בלי קו סיום", נכתב בהודעת הברית. "כל מהפכה טכנולוגית יוצרת משטחי תקיפה חדשים... והדרך הטובה ביותר להתמודד היא ביחד".
שחקן חדש ומשמעותי מצטרף
בתוך כך, הברית מתרחבת. חברת הענק Amazon הצטרפה רשמית כחברה ה-121 בקבוצה. כיאה לאירוע, גם היא תרמה כלי קוד פתוח משל עצמה: Strands Agents — ערכת כלים לבניית agents — ו-Cedar, שפת הרשאות שנועדה להגדיר ולאמת מה מותר ל-agent לעשות. הצטרפותה של ענקית הענן, שמחזיקה במרכזי פיתוח משמעותיים בישראל, היא חיזוק רציני למשקל הפוליטי והטכני של הברית.
מילים לחוד ומעשים לחוד: מה חברות תורמות?
SAFE הוא המסגרת, אבל הברית מלווה אותו בתרומות קוד פתוח ממשיות:
- NVIDIA עצמה לא רק יזמה, אלא גם תרמה. בין היתר, היא מציעה את NOOA (NVIDIA Labs Object-Oriented Agent), מחקר המאפשר להקליט ולעקוב אחר התנהגות agents — כמו "קופסה שחורה" של מטוס — ואת OpenShell, סביבת ריצה שמגבילה את מה שה-agent יכול "לראות, לגעת ולעשות".
- CrowdStrike התאימה אישית את מודל ה-Nano של NVIDIA למשימות סייבר, ומדווחת על 96% דיוק ביצירת שאילתות חקירה.
- Cisco תרמה שכבת ממשל agents הנקראת DefenseClaw, שנבנתה על OpenShell של NVIDIA.
- חברות נוספות כמו Okta, Red Hat ו-Palo Alto Networks גם הן חברות בברית ותורמות כלים שונים.
מה חסר? מי לא שם?
כדאי לשים לב להיעדרויות בולטות. נכון לעכשיו, שלוש שחקניות מרכזיות בעולם ה-AI — Anthropic, OpenAI ו-Google — אינן חלק מהברית. זאת למרות ש-OpenAI ו-Google דווקא חתמו על מכתב התמיכה הקודם בקוד פתוח. האם הן יצטרפו בהמשך? זו שאלה פתוחה.
ומה זה אומר עלינו?
לקהילה הישראלית, המשמעות של התפתחויות כאלה היא קביעת הכללים הרגולטוריים והטכניים שיגדירו את עתיד ה-AI. חברות כמו Hugging Face (שהותקפה) חברות בברית. מערכות ה-AI שכולנו מפתחים ומשתמשים בהן צפויות להיכלל בקריטריונים האלה. כך שגם אם אנחנו לא חלק מהברית ישירות, אנחנו בהחלט מושפעים מהתוצאות שלה — בין אם זה דרך כלים חדשים שנוסיף לארגז העבודה שלנו, ובין אם דרך דרישות דיווח חדשות שעשויות להתווסף.
בסך הכול, הברית הזו מנסה למנוע את הכאוס שראינו עם הפריצות הקשורות ל-AI האחרונות, באמצעות יצירת תקן לתגובה שקופה ושיתופית. היא פועלת בקצב מהיר, שבוע בלבד לאחר הקמתה. בסופו של דבר, כמו בהרבה יוזמות כאלה, ההצלחה תלויה בשאלה אם המתחרות הגדולות באמת ירצו להיכנס מתחת לאלונקה.