החדשנות ב-AI מאפסת את הביטחון בסוכנים אוטונומיים

ה-AI שלכם מקבל החלטות מהר יותר משהצוותים שלכם יכולים לפקח עליהן. ממשל תאגידי צריך לעמוד באותו קצב. כדי לבצע את המשימות שלהם, סוכני AI מקבלים גישה ליישומים ולנתונים עסקיים מסביב לשעון. אבל כל החלטה אוטונומית מעלה שאלה שתצטרכו לענות עליה בשלב כלשהו: האם תוכלו להוכיח שהסוכן פעל בהתאם למדיניות?

יותר ממחצית מהארגונים כבר הטמיעו AI אג׳נטי (agentic), לפי מחקר של Omdia. התלות הגוברת בסוכני AI יוצרת גירעון אמון שהופך את הממשל ואת האחריות לעדיפות מיידית עבור מנהלי מערכות מידע (CIO).

מהו גירעון האמון ב-AI?

גירעון אמון ב-AI מתרחש כשארגון מפריס סוכני AI אוטונומיים מהר יותר משהוא יכול להוכיח שסוכנים אלה פועלים בהתאם למדיניות. זה הפער בין מה שסוכני AI עושים לבין מה שמנהלי מערכות מידע יכולים להסביר בבירור למועצת המנהלים, למבקר או לרגולטור. סגירת הפער הזה דורשת הקשר מוכן למבקרים: ראיות שמראות מי הבעלים של סוכן, למה הוא יכול לגשת, ואילו מדיניות הנחו את ההחלטות שלו.

מדוע זו בעיה ברמת מועצת המנהלים?

ארגונים רוצים את המהירות והיעילות ש-AI אוטונומי מספק, אך מהירות ללא אחריות יוצרת חשיפה. כאשר סוכן AI מקבל החלטה שאיש לא יכול לקשר למדיניות או לאדם — אין לכם תוכנית ממשל; יש לכם חשיפה שמחכה להתגלות בבדיקה הפנימית הבאה שלכם.

קנה המידה של הזהויות הבלתי-אנושיות הפך את הנושא לדחוף יותר. בחלק מהארגונים מנהלים כיום כ-45 זהויות מכונה על כל עובד, ו-67% ממנהיגי הארגון מודאגים מסיכוני האבטחה שהזהויות האלה יוצרות — נתון מ-Cloud Security Alliance. סוכני AI מסתמכים על אותו מאגר של מפתחות API, טוקנים וחשבונות שירות לצורך אימות ופעולה, מה שאומר שכל סוכן חדש מרחיב שטח תקיפה שכבר עמוס לעייפה.

האשליה של הרשאות מינימליות

מנכ״ל Microsoft, Satya Nadella, אמר לאחרונה בראיון: ״אתם לא נותנים לסוכן את כל ההרשאות. ואז, לפי הצטברות הביטחון בכך שהסוכן יכול לבצע יותר פעולות אוטונומיות, תוכלו להעלות את ההרשאות האלה, אבל הוא צריך להתחיל עם כמות ההרשאות המינימלית ביותר.״

אולם, הגבלת ההרשאות של סוכן AI עשויה שלא להספיק. צוותי האבטחה צריכים גם למנוע מסוכנים לשנות את הכללים שנועדו להגביל אותם. ״סוכן AI עם זכויות מנהל יכול לשנות אותן, ממש כמו מנהל או תוקף״, מסבירה Andrea Sivieri, מנהלת מוצר וטכנולוגיה ב-CoreView.

ממשל מתמשך: הפתרון ההכרחי

AI אג׳נטי מסתמך על מספר הולך וגדל של זהויות בלתי-אנושיות (NHIs) לצורך אימות וגישה למשאבי הארגון. אלה כוללות חשבונות מכונה, מפתחות API וטוקנים. ״השקענו עשרות שנים בשליטה ובניהול של בני אדם והגענו ליעילות די טובה בזה. עדיין אין לנו אותה רמת קפדנות בכל הנוגע לסוכנים״, אומר Michael Ortega, מנהל שיווק AI ב-Rubrik. ״הם העובדים החדשים שלנו, אבל זה בדיוק איך שאנחנו מטפלים בהם — כאילו לא ביצענו להם שום תהליך קליטה או פיקוח ניהולי.״

סוכני AI הם הסתברותיים במהותם, מה שמאפשר להם לקבל החלטות מורכבות, אך גם לפעול בדרכים בלתי צפויות. כתוצאה מכך, סוכן מורד יכול לגרום נזק גדול פי 10 מעובד אנושי, בזמן עשירית.

מהו ההקשר המוכן למבקרים?

הקשר מוכן למבקרים פירושו שכל החלטה מונעת AI מגיעה עם רשומת תיעוד, לא עם תיבת בלאק-בוקס. מועצות מנהלים ורגולטורים מצפים ממנהלי מערכות מידע להוכיח לא רק מה סוכן עשה, אלא גם למה — באילו מדיניות, תחת אילו הגבלות זהות ועם אילו הרשאות. ״חדשנות ה-AI הקדימה את בטיחות ה-AI״, קובע Mike Kiser, מנהל אסטרטגיה ותקנים ב-SailPoint. ״ככל שהפער הזה מתרחב, כך גדל הסיכוי שארגונים הופכים לפצצות זמן שמחכות לתקרית שתקרה.״

Neil McGlennon, מנהל ה-CTO הגלובלי של SailPoint, מוסיף: ״מועצות מנהלים שואלות מנהלי מערכות מידע שאלה פשוטה: האם אנחנו יכולים לסמוך על מה שה-AI שלנו עושה? רובם עדיין לא יכולים לענות על זה. AI עבר מניסוי לביצוע, וסגירת גירעון האמון פירושה לדעת אילו סוכנים קיימים, למה הם יכולים לגשת ולמי יש אחריות כשהם פועלים. בלי זה, AI תקוע בשלב הפיילוט.״

הנתון הבא, מתוך סקר של Foundry ו-Rubrik, מבהיר את הפער: 42% ממקבלי ההחלטות בתחום ה-IT וה-AI מציינים ממשל, גדרות הגנה וציות כמכשול מרכזי להטמעת סוכני AI. אבטחה וממשל (24%) צוינו כמחסום הגדול ביותר להרחבת השימוש בהם, אפילו יותר מבעיות טכניות (17%) או מהיעדר החזר השקעה מוכח (14%).

מבט קדימה: לאן הולכים מכאן?

התעשייה מתחילה להכיר בכך שכלי אבטחה, ניטור וממשל מסורתיים תוכננו לזהויות אנושיות, לא לכוח העבודה של AI אג׳נטי. נדרשת פרדיגמה חדשה. ״מנהלי אבטחת מידע (CISO) צריכים להקדיש תשומת לב לרדיוס הפיצוץ של פעולה אוטונומית באותה מידה שהם מקדישים לדיוק של ה-AI עצמו״, אומר Raghu Nandakumara, סגן נשיא לאסטרטגיית תעשייה ב-Illumio. ״כאשר ההתנהגות והתפוקה של סוכן הן בלתי-דטרמיניסטיות מטבען, המיקוד צריך להיות בהצבת בקרות קשיחות שמגבילות את היקף ההשפעה של התרחיש הגרוע ביותר.״

בסופו של דבר, מדובר בבניית אמון במכונה. אם הארגון שלכם לא יכול להוכיח, בכל רגע נתון, שה-AI שלכם פועל נכון — אתם מהמרים, לא חדשנים. ובהימורים, הבית תמיד מנצח. אלא אם כן, כמובן, הבית שלכם הוא עמוד האשראי שלכם.