ServiceNow: מתג הכיבוי של סוכני AI הוא לא רק כפתור
בכירי ServiceNow סיפרו בכנסים האחרונים על אתגר ניהול סוכני AI בארגונים: מתג כיבוי חייב להבין את ההקשר העסקי, אחרת הוא עלול לעשות יותר נזק מתועלת. ב-Standard Chartered השיגו שיעור סטייה של 77% בבקשות עובדים ללא מגע אנושי, אבל הדרך לשם דורשת חשיבה מחדש על תהליכים — לא רק אוטומציה של הקיים.
סוכן AI שקיבל אישור להעניק הנחות של 10% התחיל להעניק הנחות של 100%. הוא עבר prompt injection, ואיפשהו בשרשרת מישהו צריך להחליט מתי לנתק אותו. זה נשמע כמו תרחיש תיאורטי, אבל זה בדיוק מה ש-Bhakti Pitre, סמנכ"לית אבטחת פלטפורמת AI ב-ServiceNow, תיארה בוועידה כדוגמה אמיתית למורכבות של ניהול סוכנים אוטונומיים בעולם האמיתי.
והשאלה הזו — מתי ללחוץ על הכפתור, ובעיקר למה — הפכה לנושא מרכזי בדיון שניהלו בכירי ServiceNow בכנסים האחרונים. כי ככל שסוכני AI נכנסים לפרודקשן בארגונים גדולים, ה-governance הופך מנושא תיאורטי לבעיה מעשית.
אז מה בעצם קרה כאן?
ב-ServiceNow בנו מודל של חמישה שלבים לניהול AI בארגון: לגלות (discover), לנטר (observe), למשול (govern), לאבטח (secure) ולמדוד (measure). את זה הם אורזים תחת המוצר שלהם, AI Control Tower, שמיועד לשמש כ"מגדל פיקוח" מרכזי לכל סוכני ה-AI של הארגון.
אבל הכלי מעניין פחות מהפילוסופיה שמאחוריו. Pitre, שדיברה באירוע Oktane של Okta, הסבירה שהגישה של "הפעל/כבה" פשוט לא עובדת בעולם שבו סוכנים עושים עבודה עסקית קריטית.
"אני אוהבת את המונח 'מתג כיבוי', אבל אני מפצירה בכולם לחשוב עליו לא כעל כפתור. זה לא מצב של מופעל או כבוי", אמרה.
הדוגמה שלה הפכה את הנקודה לברורה: סוכן שמפסיק לייצר תוצאות כנראה צריך רק השהיה וחקירה. אבל סוכן שמבצע הנחות מעבר להרשאה שלו? "פה צריך לנתק את החשמל", היא אמרה. "אבל לפני שאתה מנתק — אתה חייב להבין את ההקשר העסקי".
77% סטייה בבקשות עובדים: מה זה אומר בפועל?
Paul Fipps, נשיא פעילות הלקוחות הגלובלית ב-ServiceNow, הציג את הצד השני של המשוואה — הפוטנציאל. בכנס AIQ Summit הוא סיפר על Standard Chartered Bank, שם מנהלת התפעול הראשית דיווחה על שיעור סטייה (deflection) של 77% מכלל בקשות העובדים — כלומר, שלושה רבעים מהפניות טופלו על ידי AI ללא מגע אנושי.
"תמיד אני אומר, אם אתה משיג 25%–30% סטייה במקרים כאלה — זה משנה משחק", אמר Fipps. "אם אתה משיג 75%–80% — זה משנה חיים".
ומיותר לציין: 77% זה הרבה מעבר לטריטוריה של "משנה חיים". זה אומר שצוותי תמיכה ו-HR יכולים להפנות אנרגיה למשימות מורכבות יותר, או — וזה החלק החשוב — לחשוב מחדש על איך העבודה עצמה בנויה.
לא רק להפוך לאוטומטי: לבנות מחדש
Fipps הבהיר נקודה שהרבה ארגונים מפספסים: פשוט לחבר AI לתהליכים קיימים זה לא מספיק.
"החברות שמנצחות באמת במרוץ ה-AI הן אלה שמעצבות מחדש את תהליכי העבודה שלהן", הוא אמר. "אם אני רק מפעיל סוכנים אוטונומיים על התהליכים הקיימים — אולי אני מקבל שיפור מסוים בתפוקה. אבל אלה שחושבות מחדש על התהליכים עצמם, ואז משלבות AI בתוכם — אלה שעושות את ההבדל".
הוא דיבר על גישה "אופקית" — שימוש ב-AI לא רק במחלקה אחת אלא בכל הארגון: HR, משפטית, טכנולוגיה ותמיכה. ServiceNow, מצידה, הכריזה השנה שכל סל המוצרים שלה יהיה מופעל באמצעות AI.
מי שומר על הסוכנים?
חזרה לבעיה המרכזית: איך יודעים מתי סוכן חרג מהמסלול? ServiceNow יכולה למפות סוכן לתהליכים העסקיים שתלויים בו, ומשתמשת בטכנולוגיית אבטחת הזהות של Veza כדי לזהות הרשאות מופרזות. בנוסף, הם עובדים עם Okta כדי לאבטח טוקנים של סשנים וזהויות של סוכנים.
"אף ספק אחד לא רואה את כל השכבות שהסוכן נוגע בהן — מה-endpoint, דרך הרשת ועד ה-gateway", הסבירה Pitre. "כולם בתעשייה צריכים לעבוד יחד. אם AI צריך להיות זמין בקנה מידה שבו כל אדם יכול להשתמש בו, אז כל ספק צריך לעשות את החלק שלו".
לקח אחד ממי שבנו את זה בשטח
כשבונים סוכן AI ל-ServiceNow בפועל, המשימה מתגלה כמאתגרת פחות — אבל גם ממוקדת יותר — ממה שנדמה מראש. ב-VentureBeat תואר תהליך שבו חברה בנתה "Digital Worker" לסביבת ITSM. הם התחילו עם טכנולוגיית browser use, עברו ל-Model Context Protocol (MCP) לחיבור ישיר ל-APIs, ובנו agentic harness שמשלב מודלי LLM עם קוד דטרמיניסטי.
הלקח המרכזי? הכאב האמיתי היה בפינות צפויות פחות: ללמד את הסוכן לפרש מסמכי דרישות ספציפיים לארגון, ולהבין שנקודות הכשל האמיתיות היו "צרות וחוזרות יותר" ממה שה-roadmap הניח. ההמלצה: להתחיל עם workflow אחד — משהו חזרתי, מבוסס חוקים, עם נפח גבוה, שקל למדוד וקל להחזיר לאחור.
מה זה אומר למי שבונה AI בארגון?
שלושה דברים עולים מהסיפור הזה:
-
Governance הוא לא מחשבה מאוחרת — זה חלק מהמוצר. אם אתם מטמיעים סוכנים, אתם צריכים תשובה ברורה לשאלה "מה קורה כשהם טועים".
-
זהות והרשאות הן לא עניין שאפשר להשאיר לצד שלישי — סוכנים צריכים זהויות ניהוליות כמו משתמשים אנושיים, עם הרשאות scoped וניטור.
-
התחילו צר, לא רחב — גם ServiceNow וגם מי שבונה על הפלטפורמה שלהם אומרים אותו דבר: תבחרו workflow אחד, תמדדו, ואז תתרחבו.
בסופו של דבר, הלקח מהוועידות האחרונות הוא שסוכני AI הם כבר לא נושא עתידי — הם בפרודקשן, עושים עבודה אמיתית, ודורשים תשתיות ניהול שבשבילן כפתור On/Off פשוט לא מספיק.