Dell דורשת אבטחה מובנית בסוכני AI אוטונומיים
Dell Technologies קוראת לתכנן אבטחה וחוסן בסוכני AI אוטונומיים כבר מהשלב הראשון. הסקר שלה מראה ש-19 מתוך 25 חברות כבר מפעילות סוכנים כאלה בייצור, אך אף אחת לא מאפשרת להם לבצע פעולות מסוכנות ללא אישור אדם — ורק 4 חברות בדקו תרחיש של אירוע AI.
כשיותר חברות ישראליות מתחילות לשחרר סוכני AI שפועלים לבד — כאלה שמטיילים בין מערכות, מוצאים כלים ומקבלים החלטות — השאלה האמיתית כבר אינה ״האם הם יכולים?״ אלא ״איך לעזאזל עוצרים אותם אם הם טועים?״ בכנס שערכה לאחרונה Dell Technologies, בכירי החברה הציגו גישה שמרגישה כמו שיחה עם מהנדס סייבר מנוסה: לא מורידים את הרגל מהדוושה, אלא מתכננים את הבלמים מההתחלה.
מה הסיפור?
נשיא Dell ומנהל האבטחה הראשי שלה, John Scimone, טען שהזמן הקריטי ביותר לתכנן בו אבטחה וחוסן למערכות AI הוא עכשיו — בשלב התכנון שלהן. ״זו ההזדמנות הגדולה״, הוא אמר, ״ארגונים מתכננים היום סוכנים שיעבדו במשך שנים. אם תטמיעו אבטחה וחוסן כבר עכשיו, תוכלו לפעול בביטחון רב יותר ולקחת סיכונים מבוקרים יותר״.
איך זה עובד?
Dell מדברת על גישה רב-שכבתית, שמקורה באבטחת שרשרת האספקה — עוד לפני שמפתחים את המוצר. לדברי Kamlesh Shah, מנהל מוצר ב-AI Factory Solutions, החברה בודקת ספקים ומגינה על מחזור החיים המלא של הפריסה. ״הניסיון שלנו כספקית תשתית AI וכמשתמשת בהיקף רחב הופך למודל שהלקוחות יכולים לשכפל״, הוא ציין. ״המטרה היא להפוך תהליכי פריסה לתבניות שאפשר לחזור עליהן, במקום להמציא מחדש את הבקרה בכל פעם״.
הסוכנים האוטונומיים משנים את מודל האיומים: במקום לענות על שאלות, הם יכולים לבצע כמה צעדים, לגשת לרשומות מערכתיות ולתקשר עם סוכנים אחרים. לכן Dell שמה דגש על גבולות ברורים: בדיקות מדיניות, sandboxing בזמן ריצה וטלמטריה שמתעדת מי אישר מה. ״לסוכן עצמו צריכה להיות זהות הקשורה לעומס עבודה מסוים, ולא הרשאות רחבות״, הסביר Shah. ״השכבה שבה הסוכן פועל צריכה להיות מוגדרת מראש, בהיקף מצומצם ועם הגבלות זמן״.
מה עם הכלים הקיימים?
אחד הדברים שהלקוחות מפספסים, לדברי Ash Lakshmanan, מנהל מוצר ב-Dell Services, הוא נראות בכל ארבע השכבות: חומרה, זמן ריצה, נתונים ויישומים. ״הכלים הישנים שלכם לא יכולים לנטר עומסי AI״, הוא אמר. ״הם לא יכולים לזהות זהויות של סוכנים כפי שהם מזהים זהויות של בני אדם או מכונות״.
במקרים מסוימים, חברות שביצעו בדיקות חדירות לצ'אטבוטים לפני השחרור גילו שהם אינם מוכנים ועלולים להיות מנוצלים על ידי האקרים. ״צריך כלים, פלטפורמות ומיומנויות חדשות כדי להתמודד עם זה״, הוסיף Lakshmanan.
ממצאי הסקר
סקר של 25 מנהלי טכנולוגיה ואבטחה מצא ש-19 מהם כבר מפעילים סוכנים אוטונומיים בייצור. אף אחד מהם לא מאפשר לסוכנים לבצע פעולות בסיכון גבוה ללא אישור אדם. רק 4 חברות מתוך 25 נבדקו בתרחיש של אירוע AI. עם זאת, Scimone טוען שעודף זהירות עלול לעכב: ״ארגונים שמתכננים מראש מערכות ממשל יכולים לנוע הכי מהר ולקחת את הסיכונים הגדולים ביותר, כי הם עושים זאת בביטחון ובעזרת התובנות הנכונות״.
שיתוף פעולה עם Nvidia
Dell עובדת עם Nvidia כדי להביא סוכני AI ממחשבים שולחניים למרכזי נתונים — מהלך שירחיב את השימושים העסקיים.
מה בסכנה?
״מה קורה אם הסוכנים האלה אינם זמינים?״, שאל Scimone. ״מה קורה אם הנתונים שהם מתבססים עליהם אינם זמינים? חלק מרכזי מהחוסן התפעולי שלכם צריך להביא בחשבון שאם הסוכנים שלכם נופלים, העבודה שלכם לא מתבצעת״.
בינתיים, הגישה של Dell נשמעת פרקטית: אבטח את השרשרת, הגדר זהויות מוגבלות, הטמע את הבלמים בפנים — ותן לעסק לרוץ. Scimone מאמין שהתפוצצות האיומים עדיין לא הגיעה, אבל צופה אותה ברבעונים הבאים, לא בשנים.
וסקר אחד קטן מראה שעודף זהירות לפעמים עולה ביוקר: רק 4 חברות מתוך 25 בדקו תרחיש של אירוע AI — אולי הגיע הזמן לתרגל את הריצה.