AI במרכז המהפכה באבטחת סייבר: סיכונים, הזדמנויות ופיתוחים חדשים

AI משכתב את כללי האבטחה במערכות תעשייתיות וסייבר

התקפות תעשייתיות כגון אלו שחשפה CISA במאי 2025 מעידות על שינוי פרדיגמה בתחום אבטחת ה-OT (Operational Technology). לפי אילן ברדה, CEO של Radiflow, מערכות AI חדשות כמו Radiflow360 מסייעות לצמצם עייפות התראות באמצעות:

• ניתוח הקשר סביבתי - זיהוי איומים בהתאם לספציפיקה של המתקן התעשייתי
• עדיפות מבוססת סיכון - דירוג התראות לפי פוטנציאל הנזק העסקי
• אופטימיזציית משאבים - צמצום צוותי SOC ביחס של 1:10

"כלים מבוססי AI מסייעים לגשר על הפער בין צוותי IT ל-OT" (ברדה, Radiflow)

הסכנות הבלתי נראות של Agentic AI

מערכות AI אוטונומיות יוצרות פרצות אבטחה מסוג חדש:

1. מתקפות הזרקת פקודות (Prompt Injection) - מניפולציה של שכבת השפה ליצירת פעולות זדוניות (32% מהארגונים דיווחו על התקפות מסוג זה)
2. סוכן משוטט (Rogue Agents) - גישה בלתי מורשית למערכות קריטיות (39% מהחברות נתקלו בתופעה)
3. אי שקיפות החלטות - חוסר יכולת לבדוק החלטות של מודלים עמוקים

לפי ניתוח CIO, תקרית אופיינית כוללת מחיקה בטעות של בסיס נתונים עם 1,200 רשומות ע"י סוכן AI אוטונומי.

עקרונות אבטחה למערכות Agentic AI

• בקרות ברמת קוד - הגבלות בלתי ניתנות לעקיפה על פעולות קריטיות
• פילוג הרשאות - זהויות אבטחה ייחודיות לכל סוכן
• אימות אנושי לפעולות בעלות סיכון גבוה
• בידוד סביבות פיתוח מנתוני Production

אתגרים חדשים באופק

• מחשוב קוונטי - איום על מערכות הצפנה קיימות (דו"ח Thales)
• ניהול API - סכנת "זחילת סוכנים" (Agent Sprawl) עם צמיחת LLM (תחזית Gartner)
• שימוש צבאי ב-AI - ניסיונות של פיקוד צבאי להשתמש ב-ChatGPT לשיפור קבלת החלטות

סיכום דילמות המפתח

בעוד הטכנולוגיה מציעה יתרונות משמעותיים, מומחים מזהירים כי:

• מערכות OT רבות תוכננו לאמינות - לא לאבטחה
• ספקי AI צבאיים נדרשים לאיזון בין מהירות לבין סיכון לדליפת נתונים
• 80% מפריצות הסייבר כרוכות בזהות נפרצת - אך רק 10% מהמנהלים מוכנים לכך