ב-52% מתקלות סוכני ה-AI: ה-CIO סופג את האש
CIOs וצוותי המשפט חולקים את האחריות לממשל ה-AI, בעוד 52% מהארגונים מאשימים את ה-CIO בתקלות של סוכני AI. לפי Gartner, 40% מהאפליקציות הארגוניות יכללו סוכני AI עד 2026, מה שמעלה את הסיכונים לארגונים — במיוחד לעסקים קטנים ובינוניים שמתמודדים עם תופעת ״AI psychosis״.

אז מה בעצם קרה כאן? CIOs הפכו לשעיר לעזאזל של מהפכת ה-AI בארגונים. לפי סקר חדש, 52% מהארגונים מאשימים ישירות את ה-CIO כאשר סוכן AI עושה טעות עסקית קריטית. זאת בזמן שרק 6% מטילים את האחריות על צוותי משפט או ציות. ה-CIO, שלא תמיד בוחר את הספק או רואה את הפעולות של הסוכנים, עדיין נושא באשמה. זה נשמע מוכר? בעולם שבו כל טעות עסקית מיידית הופכת לוויראלית, מי באמת נשאר עם השק?
למה האחריות מתפזרת?
ה-AI כבר לא נשאר בחדר השרתים. הוא נפרס בכל פינה בארגון — מאנשי מכירות שמשתמשים בצ׳אטבוטים, דרך מהנדסים שמעבירים משימות לסוכנים, ועד מנהלים שמקבלים החלטות המבוססות על מודלים. המהירות הזו יוצרת בור שחור של אחריות. CIOs אחראים על הטמעה מאובטחת ויעילה, אבל צוותי המשפט מוטרדים מסיכוני רגולציה, פרטיות וליטיגציה. שני הצדדים רואים חצי מהתמונה, ואף אחד לא רואה את הכול. זה מתכון לבלגן.
40% מהאפליקציות יכללו סוכנים — וה-CIO על הכוונת
Gartner חוזה שעד סוף 2026, 40% מהאפליקציות הארגוניות ישולבו עם סוכני AI ייעודיים — לעומת פחות מ-5% ב-2025. זה לא רק מספר יפה. זה אומר שסוכנים מקבלים החלטות עסקיות קריטיות במכירות, במשאבי אנוש ובלוגיסטיקה. הבעיה? תוכנה יכולה להיות פרוסה הרבה לפני שהארגון החליט מה מותר לה להחליט. התוצאה: CIOs עלולים להישפט על החלטות שהם לא אישרו, במערכות שהם לא בנו.
אתגרי ממשל: מהרשאות ועד ERP
הממשל לא נגמר בהגדרת הרשאות. האתגרים הם טכניים ותרבותיים כאחד.
-
בקרות גישת נתונים: אם עובד לא מורשה לפתוח מסמך, האם סוכן AI יכול לשאוב את המידע שלו ממאגר נתונים אחר? בקרת גישה קונבנציונלית פועלת במקור, אבל AI מושך ממקורות מועתקים. כך נוצר פער בהרשאות.
-
התאמות ERP: מערכות כמו SAP או Oracle עברו עשרות שנים של התאמות כדי להתאים לתהליכים עסקיים. עכשיו, ה-AI דורש תהליכים סטנדרטיים. הניקוי הזה — ״core clean״ — הוא מחיר כואב אך הכרחי. אם לא, ה-AI פשוט לא יעבוד כמו שצריך.
-
תהליכי עבודה מדור קודם: 40% מהחברות הגדולות חוו בעיית ממשל ב-AI בשנה האחרונה, ו-84% מהאירועים קשורים לתהליכים שנבנו עבור בני אדם. אישורים, העברות וחריגות ידניות — כולם יוצרים חורים כשסוכנים מעורבים.
כלים לניהול הג׳ונגל
השוק מציע מגוון פתרונות. Lasso Security מתחיל במיפוי אוטומטי של יישומי AI באמצעות סריקת מאגרי קוד. LogicGate מציע גישת no-code ל-GRC עם מסד נתונים גרפי. OneTrust ו-Protect AI מתמחים בפרטיות ואבטחת מודלים. Securiti.ai מטפל בנתונים. הבחירה תלויה בארגון: צוותים שמעודדים ניסויים צריכים גישה שונה מגופים רגולטוריים כבדים.
פסיכוזת AI: התופעה שמסכנת עסקים קטנים
Arun Sahu, מ-Alliant, מתריע על ״AI psychosis״ — תופעה שבה מודלים מייצרים תוצאות שקריות או מפוקפקות. עסקים קטנים ובינוניים (SMBs) פגיעים במיוחד. הם רוצים את הפרודוקטיביות של ה-AI, אבל אין להם משאבים להתמודד עם כשלים. טעות אחת עלולה להרוס מוניטין או לגרום לאובדן לקוחות. זה לא באג; זה סיכון עסקי קיומי.
המסקנה: שיתוף פעולה או התרסקות
CIOs וצוותי המשפט חייבים לעבוד יד ביד. כל אחד מביא מומחיות שונה: ה-CIO יודע איך הטכנולוגיה עובדת, וצוות המשפט יודע מה החוק מאפשר. בלי שיתוף פעולה, הארגון מסתכן בקנסות, תביעות או פשוט בכישלון של פרויקטים. הגישה הנכונה היא ממשל מובנה, שבו מגדירים גבולות ברורים לסוכנים, מפקחים על הנתונים ומתאימים את התהליכים.
ובנימה יבשה: אם חשבתם ש-CIOs הם האחראים הבלעדיים למחשוב הענן, חכו שתראו אותם מתמודדים עם סוכנים שמקבלים החלטות עסקיות על דעת עצמם. תמיד יהיו הראשונים לשלם את המחיר.