ServiceNow: כפתור ההשבתה של סוכני AI חייב להבין את העסק
חברות כמו Standard Chartered מדווחות על שיפור דרמטי של 77% בטיפול בבקשות עובדים באמצעות AI. אך ספקות לגבי השליטה בסוכנים מונעים את הפעלתם, כפי שסיפר מנהל של בנק הודי גדול. ServiceNow מובילה גישה של ״בקרה חכמה״, שתלויה בהקשר העסקי של הסוכן, בשיתוף עם חברות אבטחה כמו Okta ו-Veza.
אז מה בעצם קרה כאן? חברות נלהבות מהפרודוקטיביות שסוכני ה-AI מספקים — אבל חוששות לשחרר אותם לשטח. השירות של ServiceNow מציע גישה מרכזית: לא כפתור השבתה גורף, אלא בקרת סיכונים חכמה שתלויה במה שהסוכן עושה בפועל.
הפרודוקטיביות ש״משנה חיים״ — והחשש הגדול
פול פיפס, נשיא תפעול הלקוחות הגלובלי ב-ServiceNow, ציין בוועידת AIQ Summit דוגמה בולטת: הבנק Standard Chartered השיג שיעור אוטומציה של 77% בטיפול בבקשות עובדים באמצעות AI. ״אם משיגים 25%–30% — זה משנה משחק״, אמר. ״75%–80% — זה משנה חיים״. החישוב פשוט: יותר משלושה רבעים מבקשות העובדים מטופלות אוטומטית, ללא מגע אנושי.
אבל בצד השני של הסקאלה יש סיפור שמציג את הפחד האמיתי. פיפס סיפר על שיחה עם מנהל טכנולוגיה ראשי של בנק גדול בהודו. לבנק היו כ-40 סוכנים מותאמים אישית מוכנים, ואף אחד מהם לא הופעל. ״הוא אמר לי: 'אני לא משחרר אף אחד מהם כי אני לא יכול לסמוך על כך שבני אדם ישלטו בסוכנים האלה, ואני בנק מפוקח בהודו'״.
למה ״כפתור ההשבתה״ זה לא מספיק
ב-ServiceNow טוענים שהגישה של ״הפעל/כבה״ היא פשטנית מדי. בהאטי פיטרה, סגנית נשיא לאבטחת פלטפורמת AI ב-ServiceNow, הסבירה בראיון שדרוש הקשר עסקי. ״אני אוהבת את המונח, אבל אני מפצירה בכולם לחשוב על 'כפתור ההשבתה' לא כעל מתג״, אמרה. ״הוא לא מצב של 'פועל' או 'כבוי'״.
היא נתנה דוגמה קונקרטית: סוכן שמוסמך להציע הנחות של עד 10%, אך עקב הזרקת הנחיה (prompt injection) החל להציע הנחות של 100%. ״זה הרגע שבו צריך פשוט לנתק את החשמל״, ציינה. ״אבל למה לנתק את החשמל — זה החלק הקריטי. חייבים את ההקשר העסקי״.
איך זה עובד? שיתופי פעולה וזהויות
ה-AI Control Tower של ServiceNow מנסה למפות את הסוכן לתהליכים העסקיים שהוא משרת. כדי לאבטח את הזהויות וההרשאות של הסוכנים, החברה משתפת פעולה עם שחקנים אחרים. פיטרה הזכירה עבודה עם Okta לאבטחת טוקנים וזהויות של סוכנים, ועם Veza לצמצום הרשאות עודפות. ״כולם בתעשייה צריכים להתאחד ולהיות חברים — או אויבים-חברים״, אמרה. ״אם ה-AI צריך לעבור דמוקרטיזציה בקנה מידה רחב ולהיות נגיש לכולם, כל ספק צריך להתאחד ולשחק את תפקידו״.
מה הלאה? טריליוני סוכנים באופק
הצמיחה הצפויה במספר סוכני ה-AI בארגונים היא מסחררת. לפי תחזית IDC, מספר הסוכנים הפעילים יזנק מ-28.6 מיליון ב-2025 ל-2.2 מיליארד עד 2030. זה הרבה מאוד ידיים אנושיות שיצטרכו לפקח. חברות שכבר מטמיעות AI ארגוני מדווחות על שיפורים דרמטיים בפרודוקטיביות, אבל ללא מסגרת ממשל איתנה — הפוטנציאל להתנהגות בלתי נשלטת, לבעיות עמידה ברגולציה ולפגיעה באמון הלקוחות רק יגבר.
בסופו של יום, שיתוף הפעולה בין ספקים הוא הכרחי. כפי שפיטרה סיכמה, אף גורם בודד לא רואה את כל השכבות שהסוכן נוגע בהן — מהקצה, דרך הרשת ועד ה-Gateway. עתיד ה-AI הארגוני תלוי ביכולת שלנו להקים מערכות שליטה שמכירות את ההקשר העסקי, לא רק מתג חירום. כי בעולם שבו סוכנים מתכננים, מציעים הנחות ומנהלים משא ומתן — מי ירצה לגור באוטוסטרדה דיגיטלית בלי שוטר תנועה?