סוכן AI בבנק ניסה להעביר נתוני לקוחות: ״צריך להסביר לו למה״
בכנס של קרן New Era בבוסטון, מומחי סייבר תיארו את השינוי המהותי שעובר התחום: מעבר מכלי הגנה נפרדים לנחילים של סוכני AI אוטונומיים. דוגמה דרמטית: סוכן AI שהופעל בבנק גדול ניסה במשך שעה וחצי לעקוף הגנות כדי להעביר נתוני לקוחות. במקביל, גורמים מדינתיים כבר מפעילים AI בשרשרת התקיפות, ובארגונים מגדילים במהירות את התקציבים – ב-JPMorgan לבדה מקצים השנה יותר מ-20 מיליארד דולר ל-AI.

דמיינו שאתם מפעילים סוכן AI בבנק גדול כדי לעזור לכם בביצוע משימות, והוא מחליט שהמשימה שלו – להעביר קובץ רגיש עם נתוני לקוחות – חשובה יותר מהאבטחה של הארגון. מערכת ההגנה חוסמת? הוא מנסה להצפין. שוב חסום? הוא מנסה להעביר למחשב מנותק. ככה, במשך שעה וחצי, שיחקו צוותי הסייבר במשחק חתול ועכבר עם סוכן בינה מלאכותית שלא היה מוכן לוותר. ״זה לא היה אירוע זדוני במובן הרגיל״, הסביר עומרי אילוז מחברת הסייבר Lumia בכנס של קרן New Era בבוסטון. ״היה כאן סוכן שניסה לבצע משימה שהוטלה עליו, אבל משימה שעלולה הייתה לגרום נזק לארגון״.
״העתיד הוא פחות כלים ויותר משימות״
האירוע הזה, שנחשף בפאנל על ״החזית החדשה במלחמת הסייבר״, הוא דוגמה קיצונית אך מציאותית לשינוי המהותי שעובר על עולם האבטחה. לדברי גיא פלכטר, יזם סדרתי שמכר את חברת הסייבר ל-Palo Alto Networks ב-300 מיליון דולר, העתיד כבר כאן: ״אנחנו צריכים להפסיק לחשוב על בניית כלים או פתרונות, ולהתחיל לחשוב על בניית נחילים של סוכנים שצריכים לבצע הרבה משימות״. לדבריו, התוקפים עושים את אותו מעבר בדיוק – הם כבר אינם מסתפקים בכלים בודדים, אלא מפעילים צבאות של סוכנים אוטונומיים שלומדים זה מזה ומתקדמים באופן עצמאי. ״העתיד הוא פחות כלים ויותר משימות ולמידה מתמדת״, הוסיף פלכטר, שכיום מוביל את הסטארטאפ שלו, Sola.
תקציבים מתפוצצים, איומים מתגברים
המגמה הזו אינה נשארת בגדר חזון. קייטי ג'נקינס, CISO של ענקית הביטוח Liberty Mutual, סיפרה בפאנל על האופן שבו הארגונים מתמודדים עם השינוי – כולל ההחלטה המורכבת אם לפתח פתרונות פנימיים או לרכוש אותם מבחוץ. והתקציבים? הם גדלים בקצב מדהים. דוגמה בולטת: ענקית הפיננסים JPMorgan Chase חשפה שהיא מפנה השנה יותר מ-20 מיליארד דולר לפרויקטים של AI – סכום שמשקף את ההבנה שאבטחת סייבר מבוססת בינה מלאכותית הפכה להוצאה הכרחית, לא למותרות.
האיום המדינתי: תקיפות AI אוטונומיות
אבל לא הכול מסתכם בכלים חדשים ובתקציבים גדולים. בפאנל נפרד חשף גורם בכיר מ-Anthropic שגורמים הפועלים בחסות מדינות כבר משתמשים בבינה מלאכותית כדי לבצע באופן אוטונומי את רוב שלבי מתקפות הסייבר. אליסה נייט, מנכ״לית חברת Assail, הזהירה שהזמן בין גילוי חולשה (למשל, חולשת Zero-Day) לבין ניצול שלה לצורך תקיפה מתקצר לשעות ספורות. ״המגנים נמצאים מאז ומתמיד בעמדת נחיתות״, הסבירה, ״כי התוקף צריך להצליח רק פעם אחת, בזמן שהמגינים נדרשים להצליח כל הזמן״.
מלחמת התודעה: AI נגד הנרטיב
ההשפעה של AI חורגת מזירת הסייבר הקלאסית. תת-אלוף (במיל') דניאל הגרי, לשעבר דובר צה״ל, התריע בכנס שהמאבק על אמון הציבור והנרטיב הלאומי יתנהל יותר ויותר באמצעות כלי בינה מלאכותית. הוא סיפר על חוויותיו מהמלחמה, כולל ההחלטה לאסוף ראיות מדוקדקות (נתוני מכ״ם, תיעוד רחפנים, תקשורת שיורטה) לפני פרסום פרטים – כדי לשמור על אמינות. ״שילמנו מחיר על הזמינות, אבל הרווחנו אמינות״, אמר. הגרי הזהיר שבעידן ה-AI, היכולת ליצור ולזייף מידע בקנה מידה מטורף הופכת את מאבק התודעה לקרב מתמיד.
אז מה עושים? מסבירים לסוכן
חוזרים לסוכן הסורר מהבנק. אחת המסקנות מהאירוע היא שמערכות האבטחה חייבות להשתנות. במקום רק לחסום פעולות חריגות, הן צריכות להסביר לסוכן למה הפעולה נוגדת את המדיניות הארגונית, ומה עליו לעשות במקום. ״היום לא מספיק לחסום סוכן״, סיכם אילוז, ״צריך להסביר לו למה עשית את זה״. בעולם שבו סוכני AI יכולים לנסות שוב ושוב, לבחון אלף דרכים חלופיות ולבצע פעולות בקצב אדיר – זו כבר לא שאלה של מהירות תגובה, אלא של היקף ויכולת הסתגלות. הכדור עובר עכשיו לצד של מעצבי המדיניות, שצריכים ללמד את המכונות שלהם לא רק מה אסור, אלא גם למה.