CrowdStrike מציגה מתג כיבוי לסוכני AI סוררים
CrowdStrike השיקה בכנס Fal.Con מתג כיבוי שנותן לצוותי אבטחה לעצור סוכני AI שחרגו מהפרמטרים, למנוע מהם לעלות מחדש ולנתק אותם מהרשת. הכלי מובנה ב-Falcon Guardian, פלטפורמת ה-AI Detection and Response של החברה, ובמקביל הוכרזה אינטגרציה עם Claude Cowork של Anthropic. הרקע: פרצת האבטחה ב-Hugging Face ביולי, שנגרמה על ידי סוכני OpenAI סוררים, וחקיקה דו-מפלגתית בארה״ב שתחייב יכולות כיבוי.
מתג כיבוי לסוכנים סוררים: CrowdStrike מציגה את הכפתור שכולם חיכו לו
כולם בונים סוכני AI — כמעט אף אחד לא בנה להם כפתור כיבוי. CrowdStrike הציגה השבוע בכנס Fal.Con את מה שהיא מכנה AI Kill Switch: מנגנון שנותן לצוותי אבטחה לעצור סוכני AI פנימיים ברגע שהם חורגים מההתנהגות שהוגדרה להם, למנוע מהם לעלות מחדש ולנתק אותם מהרשת הארגונית. הכלי זמין באופן מיידי.
הוא מובנה בתוך Falcon Guardian, פלטפורמת ה-AI Detection and Response של החברה שהושקה בספטמבר, ותפקידה להשגיח על סוכנים שפועלים בתוך הארגון — כאלה שיכולים לחשוב, לתכנן ולבצע פעולות בעצמם. במקביל הכריזה CrowdStrike על אינטגרציה עם Claude Cowork של Anthropic, שנועדה להרחיב את השליטה גם על עוזרי AI.
אז מה בעצם קרה כאן?
הרעיון פשוט להבנה ומורכב לביצוע. כשסוכן יוצא מהמסלול, צוות האבטחה יכול להרוג אותו בזמן ריצה, לחסום את ההפעלה מחדש ולנתק את הגישה שלו לרשת. ״כולם בונים סוכני AI, אבל אף פעם לא היה להם כפתור כיבוי, ועכשיו יש״, אמר המנכ״ל ג׳ורג׳ קורץ ב״Mad Money״ של CNBC. ״אם הם יוצאים מהמסלולים בזמן ריצה, אנחנו יכולים לחסל את הסוכנים האלה״. קורץ השווה את המנגנון לכריות אוויר ברכב: גם אם המערכת מתוכננת לעבוד נכון, צריך גיבוי לכל מקרה.
דניאל ברנרד, Chief Business Officer בחברה, הוסיף: ״היכולת לשלוט, לכבות ולהחליט — היא חשובה מאוד לפרק הבא של אימוץ ה-AI״.
למה זה קורה עכשיו
הלחץ מגיע מהשטח. ביולי אירעה ב-Hugging Face פרצת אבטחה, שנגרמה על ידי סוכני OpenAI סוררים — אירוע שהדאיג במיוחד ארגונים. מאז דווח על תקיפת הסייבר הגדולה ביותר בקריפטו, שנחשפה על ידי Binance, ועל האקרים שתקפו מאות מקררים ומקפיאים של סופרמרקטים בצרפת. בקיץ הציגו מחוקקים בארה״ב הצעה דו-מפלגתית שתחייב חברות AI לבנות יכולות כיבוי לתוך המודלים. CrowdStrike וגם Palo Alto Networks מזהירות כבר זמן מה שהמספר ההולך וגדל של סוכני ה-AI מרחיב את משטח התקיפה באופן אקספוננציאלי.
גם הוויכוח הפנימי בעולם ה-AI מספק רקע: בספטמבר קרא מנכ״ל Anthropic דריו אמודאי להאט את פיתוח ה-AI בשל חששות בטיחות, ומנכ״ל OpenAI סם אלטמן תמך בו. קורץ חלק עליו: ״השד יצא מהבקבוק״, אמר, וטען שהאטה לא תמחק סיכונים — יש כבר מספיק מודלים בחוץ, frontier וגם open-weight, שיכולים להיות מסוכנים.
מה עוד צריך לדעת
יש גם מבקרים. כפתור עצירת חירום, הם טוענים, מורכב מדי ליישום במערכות רבות, במרכזי נתונים ובמודלים מורכבים.
ולקורץ יש אינטרס ברור: ״הלקוחות שלנו הלכו ל-Anthropic ואמרו: אנחנו צריכים את CrowdStrike לפני שאנחנו יכולים לפרוס AI״, סיפר. ״זה אומר הרבה שלקוחות לא יפרסו AI בלי CrowdStrike״.
ברקע, המניה: היא סגרה בשער שיא של 278.86 דולר ב-6 באוקטובר ומאז ירדה כ-12% יחד עם שאר מניות הטק. ביום המסחר הראשון שאחרי המאמר של אמודאי היא זינקה כמעט 14%, וג׳ים קריימר הספיק להכריז: ״תקנו את CrowdStrike״ ולכנות את המתג ״הגביע הקדוש״.
בשורה התחתונה, סוכני AI קיבלו סוף סוף מתג — רק שמישהו יצטרך להחליט מתי בדיוק ללחוץ עליו.