גוגל מזהירה: איראן מפעילה AI אוטונומי במבצעי סייבר

מגמה חדשה ומדאיגה בעולם הסייבר: קבוצת מודיעין האיומים של גוגל פרסמה נתונים שמראים מעבר מסוכן מפרומפטים ידניים פשוטים למערכות אוטונומיות המבוססות על סוכני בינה מלאכותית. אם חשבתם ש-AI הוא רק עוזר לקוד, תחשבו שוב – עכשיו הוא מנהל מתקפות בעצמו.

במוקד הדוח עומדת פעילות גוברת של איראן, ובפרט קבוצת התקיפה הממשלתית CALANQUE ION, המוכרת כ-APT42, שמסונפת כנראה למשמרות המהפכה. הקבוצה הרחיבה את השימוש במודלי שפה גדולים, כולל Gemini של גוגל. מעבר לאיסוף מודיעין וניסוח הודעות דיוג, היא עושה קפיצת מדרגה: משתמשת ב-AI כדי לפתח תשתיות תקיפה טקטיות, ואף מבצעת ניסיונות הנדסה לאחור של אלגוריתמי רישוי תוכנה כדי לעקוף מערכות הגנה מתקדמות.

בזירה של מבצעי ההשפעה, האיראנים עברו מהזנת הנחיות בסיסיות להנחיית מודלים לנסח פקודות טכניות מפורטות עבור מחוללי תמונות, עם פרמטרים מדויקים כמו תאורה ומרקמי עור, כדי לייצר דמויות פוטו-ריאליסטיות ברשתות חברתיות. הם אף מאמצים פרסונות של מומחים, כמו אנליסטים של שוק האנרגיה, כדי לעצב נרטיבים שמשרתים את יעדי המשטר.

אבל זה לא רק איראן. הדו״ח חושף מגמה רחבה של הפעלת סוכני AI אוטונומיים. במקרה אחד, תוקף כלכלי חדר לענן ארגוני, ובפחות משש שעות בנה והוציא לפועל קמפיין לגניבת הרשאות – סוכן ה-AI ניהל את הסריקה, פתר תקלות בזמן אמת ועשה רוטציה אוטומטית של כתובות רשת כדי לחמוק מגילוי.

קבוצות פשיעה כמו UNC6780 פיתחו שיטה לעקוף סורקי אבטחה מבוססי מודלי שפה: הן שתלו בהערות קוד הנחיות לייצור נשק ביולוגי, מה שמפעיל את מנגנוני הבטיחות של הסורק וגורם לו לסרב לעבד את הקובץ, וכך הקוד הזדוני חומק מבדיקה.

בסין, קבוצת הריגול UNC6508 מתמקדת בגניבת קניין רוחני ומחקר AI ממוסדות בצפון אמריקה. היא חודרת לענן ופורסת מודלים בקוד פתוח כדי לנצל את משאבי המחשוב של הקורבן, תוך עקיפת מנגנוני ניטור.

השימוש בכלים נעשה מגוון יותר: לצד מודלים סגורים כמו Claude של Anthropic ו-Gemini לפיתוח קוד זדוני, תוקפים נעזרים בעוזרים ייעודיים כמו DeepSeek-Coder ליצירת סוסים טרויאניים, ומתמקדים בגניבת קובצי הגדרות מסביבות עבודה כמו Cursor, Devin ו-Cline. אז מה בעצם קרה כאן? חלון התגובה של מגיני הסייבר הצטמצם דרמטית, והאיומים הפכו מורכבים מתמיד.