כך הנחיה עוינת הופכת סוכן AI לאיום סייבר

אז מה בעצם קרה כאן?

תארו לכם תרחיש כזה: מנהל צוות פיתוח מבקש מה-Copilot של החברה לנסח אימייל ללקוח. הכלי מחובר, כמו תמיד, לתיקיות הארגוניות, לקוד ולדאטה. אבל הפעם, במסמך ההוראות הפנימי של אותו כלי, חבויה שורה נוספת, בלתי נראית, שהשתיל מתכנת זריז — או מודל AI שמישהו ״אילף״ במזיד. בתוך שניות, אותו סוכן AI עושה שתי עבודות: גם עוזר למנהל לסיים את המייל, וגם מושך ברקע את רשימת הלקוחות הרגישים ביותר ושולח אותה לכתובת חיצונית.

האיום לא מחייב קובץ וירוס מסורתי או קישור פישינג. את ההנחיה המרושעת אפשר להסתיר בטקסט שנראה כהסבר שגרתי, והסוכן — שנבנה בדיוק כדי להקשיב, לפרש ולפעול בהתאם — מציית. ״הגבול בין הוראה, זהות והרשאה הולך ומיטשטש״, כפי שמתארים מומחי אבטחה.

Skills: שכבת ה-Agents העיוורת

הבדיקות האחרונות של חברות אבטחה בארגונים גדולים מעלות תופעה מדאיגה. הן נוגעות ל״סביבת ה-Skills״ — אותן חבילות הוראות, סקריפטים ומשאבים שסוכני AI (או agents) משתמשים בהם כדי לבצע משימות מורכבות. למשל, agent שמקבל פקודה ״שלח לכל הלקוחות את ההצעה האחרונה״ יפעיל skill מתאים ששולף את רשימת הלקוחות מה-ERP, ושמחובר אליו מנוע שליחת מיילים.

כדי שהתהליך יעבוד מהר וללא הפרעות, מפתחים ומנהלי מערכות נוטים לשמור ב-Skills האלה מפתחות API, אסימוני גישה (tokens) ופרטי חיבור רגישים אחרים. ״לפעמים זו שגיאה אנושית, לפעמים רכיב חיצוני מנצל את האמון שניתן בו״, נכתב בניתוח. זו הסיבה שאבטחת AI ואבטחת תחנות קצה (endpoint security) הופכות ל״אותה שיחה״.

92% מהמומחים מודאגים: זה לא רק קטע של פיתוח

הדאגה רחבה. סקר עדכני של חברת הסייבר Darktrace, שכלל מומחי אבטחה מובילים בעולם, מצא ש-92% מהם מודאגים מהסיכונים שסוכני AI אוטונומיים מהווים לארגון. ״Agents increasingly act autonomously... making decisions with limited — or sometimes no — human intervention״, מסביר Dave Vellante, אנליסט ראשי ב-theCUBE Research. ״זה יוצר מחלקה חדשה של סיכונים שהסייבר המסורתי לא נבנה לטפל בהם״.

ההשלכה חורגת מפיתוח. מנהל אבטחה (CISO) לא יכול יותר לסמן רק את מחשבי המפתחים כ״אזור סיכון״. כאשר כל עובד שיווק, מכירות או כספים מחזיק כלי AI עם יכולות גישה ל-SharePoint, ל-Teams או למסדי נתונים — ה״מפעל״ הארגוני כולו הופך לשטח תקיפה פוטנציאלי.

זהות (Identity) היא נקודת הבקרה החדשה

בבסיס הבעיה נמצאת סוגיית ה״זהות״ הלא-אנושית. ״צריך לחשוב על ניהול זהות (Identity management) מחדש״, אומר Steve Kenniston מ-Dell. ״כל יישום AI חדש יוצר משטח תקיפה חדש״. כרגע, ברוב הארגונים, לא תמיד ברור מה agent יכול לעשות או באילו משאבים הוא נוגע. כשמערכת פועלת אוטונומית, ״הסיכון לשגיאות או לפעילות זדונית גדל, במיוחד כיוון שהפעולות מתבצעות בזמן אמת, לרוב בלי הזדמנות לבדיקה אנושית״, מוסיף Mukund Khatri מ-Dell.

מה עושים? גם AI עוזר לאבטח AI

החדשות הטובות הן ש-AI גם הופך להיות חלק מהפתרון. בשנים האחרונות ארגונים צברו כמויות עצומות של גישות (permissions) מיותרות שלא הוסרו מחשש לשבור תהליכים קריטיים. ״העשור האחרון הוקדש לנראות (visibility). מוצרים כבר יכולים לזהות זהויות עם גישה מופרזת״, נכתב בניתוח. ״לעשות שינוי בפועל בסביבת ייצור? זה כבר סיפור אחר״.

כאן נכנסים כלי AI שמנתחים את הקשרים (context) בכל הסביבה. ״מערכות מודרניות יכולות לשחזר קשרים בין זהויות, רשתות ומשאבים, להשוות בין גישות מוגדרות להתנהגות בפועל, ולעזור לצוותים לקבוע אם ניתן להסיר בבטחה גישה מסוימת״, מתאר Jonathan Langer, מומחה בתחום. הפתרון, פה ושם, נראה כמו ״בדיקת יחידות (unit testing) להרשאות״ — בודק שהן מאפשרות בדיוק את מה שהתכוונו אליו, ולא מעבר לכך.

בשורה התחתונה, ארגונים צריכים להתחיל לראות בכל כלי AI מחובר — בין אם זה Copilot, agent פנימי או שירות צד-ג׳ — כ״עובד״ עם זהות, הרשאות ופוטנציאל ניצול, ולא רק ככלי פרודוקטיביות. הנחיה עוינת, גם אם מוסווית היטב, עלולה להפוך אותו לסיכון הכי גדול שלכם, בלי שמישהו ילחץ על קישור.