Snapshot של AI governance מתיישן עוד לפני שהוא מוכן
ב-FinServ Cybersecurity USA Summit הסביר Draeger Valencia מ-Singulr AI מדוע Snapshot ידני של AI governance מתיישן עוד לפני שמסיימים להרכיב אותו. הדחיפות לא מגיעה מהרגולטורים, אלא מדירקטוריונים שדורשים ערך מדיד, ויש גם כמה נקודות נוספות: הסיכון בתקשורת agent-to-agent, הצורך להגדיר AI intent והעלות של שימוש לא מאושר ב-AI בארגון.
ה-Snapshot מת עוד לפני שהוא מוכן
רוב הארגונים עדיין מנהלים AI governance בצורה ידנית: מתעדים נקודת זמן אחת, בודקים אם הפרקטיקה תואמת את המדיניות, ומציגים את התמונה. הבעיה היא הקצב — AI מתפתח במהירות, ובזמן שצוותי Security ו-Compliance מרכזים נתונים ממקורות מפוצלים, המידע כבר התיישן. כך אמר Draeger Valencia, ראש תחום ה-growth ב-Singulr AI, בריאיון וידאו שנערך ב-FinServ Cybersecurity USA Summit.
הלחץ מגיע מהדירקטוריונים, לא מהרגולטורים
הדחיפות לא נובעת מרגולטורים או מבקרים, אלא מבעלי מניות ודירקטוריונים שרוצים לראות ערך מדיד מהשקעות ה-AI. ה-CISO נדרש להראות שהבקרות שלו עובדות ביחס למה שחשוב לעסק, כי הבקרות האלה הן פוליסת ביטוח עבור השקעות לא קטנות.
במילים אחרות, ה-CISO צריך לתרגם את השפה של Security לשפה של העסק: אילו סיכונים נחסכו, אילו בקרות מחזיקות ואיפה יש פער. נראות מפוצלת ואיסוף ידני לא מספיקים כדי להראות שהבקרות עומדות בקצב השינוי של ה-AI, וזה בדיוק הפער ש-Valencia מתאר.
ומה מטריד מעבר לזה?
Valencia, שותף מייסד ב-Singulr AI עם ניסיון קודם בהובלת תחומים כמו network security, cloud services ו-enterprise sales ב-VMware, הצביע על כמה נקודות: הסיכון בתקשורת agent-to-agent ובפורמטים חדשים של מערכות AI; הצורך להגדיר את ה-AI intent — ממקרה השימוש המקורי ועד לאופן שבו המערכת אמורה לפעול; והתפקיד המתרחב של ה-CISO בניהול העלות של שימוש לא מאושר ב-AI בתוך הארגון.