ה-AI לא גאון: הוא פשוט עקבי בתקיפות סייבר

מניחים שה-AI מסוכן כי הוא חכם? תחשבו שוב. הפרסומים על תקיפות שמבצע AI מציירים תמונה של כלי שמגלה חולשה נסתרת, כותב קוד גאוני, או עוקף הגנות בדרך מבריקה. אבל הסכנה המיידית יותר היא שקטה ופחות זוהרת: היכולת לבצע שוב ושוב את אותה שיטת תקיפה, מול מספר עצום של מערכות, בקצב שאף בן אדם לא יכול לעמוד בו.

העקביות היא הנשק

כדי שה-AI יהפוך לכלי תקיפה רב-עוצמה, הוא לא צריך להמציא שום דבר. מרגע שהתוקפים מבינים מדוע שיטה מסוימת עובדת, המערכת יכולה לחפש את אותם תנאים במערכות אחרות, להתאים את הבדיקה להבדלים ביניהן, ולהמשיך גם אחרי ניסיונות כושלים. עיקר התחכום נמצא בגילוי הראשון – מכאן ואילך זה משחק של קנה מידה.

מה קרה במחקר?

במחקר על אפליקציות אנדרואיד, החוקרים מצאו בשלב הראשון 7 חולשות בעבודה ידנית. אחרי שזיהו את התנאים המשותפים, הם הפעילו את המערכת על 20 אפליקציות. התוצאה: 5 חולשות נוספות מאותה משפחה, ועוד חולשה נפרדת שאפשרה השתלטות מלאה על חשבון.

בכל אפליקציה הקוד, הממשק וההרשאות נראו אחרת. המערכת לא הריצה פקודה חוזרת – היא נדרשה לזהות אם התנאים קיימים, ולהתאים את הבדיקה למבנה של כל יעד. מה שמבדיל אותה מסקריפט הוא היכולת לשנות את הגישה לפי מה שנמצא בדרך. כללים קבועים עובדים רק כשכל השלבים ידועים מראש; בבדיקות אבטחה, כל מערכת מגיבה אחרת, וכישלון מחייב שינוי כיוון.

גם סוכני AI נכנסים לתמונה

במחקר נוסף על פלטפורמת הקוד הפתוח Pretalx, סוכני AI הגישו הצעות פיקטיביות להרצאות לכנסים שונים, וחיכו לפעולה הצפויה של המארגנים – אישור ההרצאה. הרגע הזה מפעיל את החולשה. משימה שהייתה מוטלת בעבר על חוקר אחד, רצה עכשיו במקביל מול יעדים רבים. המערכת צריכה להבין את ההקשר של כל יעד, לזהות דפוסים שלא הוגדרו מראש, ולהחליט אילו ממצאים מצביעים על סיכון ממשי.

התוקף לא צריך להצליח בהרבה ניסיונות – די באחד. ככל שהעלות של כל ניסיון נוסף יורדת, מערכת אוטומטית יכולה לנסות את אותה שיטה מול אינסוף יעדים, בלי להוסיף כוח אדם ובלי לבחור מראש רק את המטרות שנראות מבטיחות.

מה זה אומר לארגונים?

ארגון צריך להגן על אפליקציות רבות, על APIs, על הרשאות ועל תהליכים עסקיים שמשתנים כל הזמן. חיבור שירות חדש, שינוי בקשר בין רכיבים, הרחבת הרשאה – כל אלה יכולים לפתוח מסלול תקיפה שלא היה קיים בבדיקה הקודמת.

בדיקת חדירה שנתית או רבעונית היא צילום מצב. היא מתארת את המערכת ביום שנבדקה, אבל שבועות אחר כך הקוד כבר השתנה, ההרשאות עודכנו, ושירותים חדשים נוספו. התוקף לא מחכה לבדיקה הבאה – הוא ממשיך לנסות.

המסקנה: עדכונים תדירים, לא רק בדיקות

המערכת החדשה מחייבת שינוי בגישה: לא עוד בדיקה תקופתית אחת, אלא עדכוני אבטחה תדירים ומותאמים, שייתנו מענה לשינויים בזמן אמת. ה-AI לא הופך אותנו לפגיעים יותר בגלל החוכמה שלו – אלא בגלל הסבלנות האינסופית שלו.

אולי לא צריך AI גאון, רק מתמיד.