כשלי AI בארגון? ה-CIO אשם ב-52% מהמקרים

האצבע המאשימה מופנית לשם אחד

כולם רוצים AI בארגון. כולם רצים קדימה. אבל כשמשהו משתבש — מודל AI שמייצר תוצאות שגויות, אינטגרציה שדולפת נתונים, או כלי אוטונומי שמקבל החלטות עסקיות רעות — מישהו צריך לשלם את המחיר. וב-52% מהמקרים, האדם הזה הוא ה-CIO.

על פי סקר חדש של 8×8, יותר ממחצית ממקבלי ההחלטות בארגונים מטילים את האחריות על מנהל הטכנולוגיה הראשי כשסוכן AI עושה טעות. רק 6% מצביעים על צוותי משפט או ציות כמי שצריכים לשאת בתוצאות. המספר הזה מרתק לא בגלל שהוא מפתיע — אלא בגלל שהוא חושף את חוסר האיזון המובנה באופן שבו ארגונים תופסים אתגרי AI.

"מנהיגי IT כבר רואים את זה קורה בתוך הארגון שלהם", אומר מורגן וואטס (Morgan Watts), סגן נשיא ל-IT ומערכות עסקיות ב-8×8. "CIOs נמצאים כעת בעמדה שבה הם אחראים על כל מה שהארגון שלהם עשה בשנים האחרונות — לפעמים בלי שהם בחרו את הספק, ולפעמים בלי שיש להם ראות מלאה למה שסוכני ה-AI עושים".

אז מי בעצם אחראי?

הבעיה מתחילה בזה ש-AI כבר מזמן לא נמצא רק במעבדת הדאטה. הוא נכנס לשירות לקוחות, לתהליכי גיוס, לחשבונאות, לשרשרת האספקה. ככל שהטכנולוגיה מתפשטת, שאלת הבעלות על ה-AI הופכת לאחת הבעיות הארגוניות הכי מבלבלות.

במאמר שפורסם לאחרונה ב-CIO, שותפות בין ה-CIO לצוות המשפטי מוצגת כגורם שיקבע את העתיד של AI ארגוני. ה-CIO אחראי על אימוץ מאובטח ויעיל של הטכנולוגיה; הצוותים המשפטיים מתמקדים בסיכוני ליטיגציה, פרטיות ורגולציה. אבל בשטח, הגבולות מטושטשים — והתוצאה היא שה-CIO מוצא את עצמו חשוף.

וזה לא עוצר בארגונים גדולים. במגזר ה-SMB, הבעיה מחמירה. ארון סאהו (Arun Sahu), מוביל תחום AI ואינטליגנציה דיגיטלית ב-Alliant, מדבר על תופעה שהוא מכנה "AI psychosis" — מצב שבו ארגונים סומכים בצורה מוגזמת על תשובות של Claude, ChatGPT או כל כלי AI אחר. "אנחנו מניחים שהתשובה תמיד נכונה", הוא אומר. "אנחנו חושבים שמסמך שנכתב על ידי AI הוא באיכות הגבוהה ביותר. יש ציפייה שזה יפתור את כל הבעיות".

לארגונים גדולים יש אולי את המשאבים להתמודד עם טעויות כאלה. עסקים קטנים ובינוניים? הרבה פחות.

הכלים החדשים: למי יש זמן לבדוק הכול ידנית?

זאת בדיוק הנקודה שבה נכנסים כלי ממשל ה-AI. השוק מתחיל להתבגר, ומספר חברות מציעות פתרונות שנועדו לעזור לארגונים לשלוט ב-AI שלהם — לגלות אותו, לבדוק אותו ולאכוף מדיניות. הנה ארבעה בולטים:

Lasso Security: מיפוי מלא של כל ה-AI בארגון

Lasso Security מתחיל מבעיה בסיסית: בארגון גדול, אף אחד לא באמת יודע כמה מודלי AI עובדים כרגע, היכן ולמי יש גישה. הכלי שלהם מבצע "מפקד" אוטומטי של כל הטמעות ה-AI — כולל סריקת מאגרי קוד מקור ותהליכי CI/CD כדי למצוא LLMs שעובדים מתחת לרדאר. התוצאה: מלאי שממנו אפשר לבצע red teaming ולאכוף מדיניות בזמן אמת. התמחור מותאם אישית לכל פריסה, והפיצ'ר הבולט הוא כלי Agentic למשימות מרובות שלבים. מתאים במיוחד לצוותים בסביבות פתוחות שמעודדות ניסויים.

LogicGate: ממשל סיכונים ללא קוד

Risk Cloud של LogicGate מציע גישת no-code ל-governance, risk and compliance. הכלי ממלא מאגר גרפי במידע על כל השירותים בארגון, כולל מעקב אחר בעיות שקשורות ל-LLMs. באמצעות חיבורים מובנים, הוא מציע מודול בשם "Risk Cloud Quantify" — אומדן פוטנציאל הסיכון באמצעות שילוב של איסוף נתונים וסימולציות Monte Carlo. בנוסף, הכלי כולל כלי בשם Value Realization Tool, שמעריך trade-offs עסקיים. המחיר זמין לאחר הדגמה, והשורה התחתונה: לארגונים שצריכים לשלוט גם ב-AI וגם בקוד מסורתי במסגרת אחת.

Mindgard: צוות Red Team אוטומטי שלא עוצר אף פעם

Mindgard נבנה על הרעיון ששטח ההתקפה של AI הוא רחב, מגוון, ובעיקר — לא ידוע. הפלטפורמה שלהם מתפקדת כ-red team אוטומטי: קבוצה של תוכנות ומודלי AI שמנסים כל הזמן לחדור למטרה ולשבור אותה. המחזוריות קבועה: גילוי, מיפוי, תקיפה, ואז הערכה מחדש של ההגנות. כל סיבוב חושף סיכונים חדשים.

OneTrust: פלטפורמת בינה מלאכותית אחראית

OneTrust מציעה פתרון רחב יותר לניהול מדיניות AI ואבטחה, עם דגש על פרטיות, שקיפות וציות רגולטורי. הפתרון כולל כלים לניהול מחזור החיים של מודלי AI — משלב הפיתוח דרך ההטמעה ועד לניטור שוטף.

ענן ו-AI: חשבון שמגיע מהר

עוד ממד שמאתגר את ה-CIO: עלויות הענן. AI דורש כוח מחשוב מסיבי, וארגונים מגלים שהסכמים קיימים עם AWS, Azure או GCP לא תמיד מתאימים לעומס החדש. במקרים מסוימים, צוותים מצליחים לבנות מודל עובד אבל לא מצליחים להשיג קיבולת ייצור במחיר שתוכנן.

העברת מידע בין אזורים או ספקים כדי למצוא GPU זמין או מחיר טוב יותר לשבב מסוים יוצרת חשבונות ענן שגבוהים בהרבה ממה שתוכנן — בלי קשר לגיוסים או ליישומים חדשים. העלייה מגיעה מארכיטקטורה שנבנתה סביב זמינות כוח מחשוב, לא סביב עלות.

תמחור ה-Egress הופך את שאלת הניידות ליקרה עוד יותר. ריכוז אצל hyper-scaler אחד מפשט תפעול, אבל לשנות כיוון כשספק לא מספק את הקיבולת הנכונה במקום הנכון — זה סיפור יקר. עד שה-CIO זקוק לחלופות, עלות העברת המידע כבר מחלישה את עמדת המיקוח.

מה זה אומר עליכם

אם אתם עובדים בתעשיית ההיי-טק הישראלית, אתם מכירים את הדינמיקה הזאת: הכלים מתקדמים מהר יותר מהממשל. ארגונים רצים לאמץ AI בלי לבנות את שכבת הבקרה. וכשהדברים משתבשים — מישהו צריך לשלם.

החדשות הטובות: שוק כלי ממשל ה-AI מתחיל להבשיל. בין אם זה Lasso Security שמגלה לכם מה באמת רץ אצלכם בקוד, LogicGate שמאחד ניהול סיכונים, Mindgard שמבצע red teaming אוטומטי, או OneTrust שמטפלת בצד הרגולטורי — יש פתרונות. השאלה היא אם ה-CIO שלכם מספיק אמיץ לדרוש אותם, לפני שהאצבע המאשימה מגיעה שוב.

כי ב-52% מהמקרים, היא כבר שם.