ידיעות בינה מלאכותית בנושא VULNERABILITY
סוכנויות בארה״ב מזהירות מפני מתקפות AI פעילות על בקרי Siemens S7 בתשתיות קריטיות כמו מים ואנרגיה. האזהרה מגיעה על רקע מתקפות על מערכות מים במינסוטה, המיוחסות לקבוצה האיראנית CyberAv3ngers, ומדגישה כיצד AI מפחית את הסף הטכני הנדרש לביצוע מתקפות — מה שמערער את ההגנות הקיימות.
חוקרים מציגים שיטה שבה סוכני AI לא רק מוצאים פרצות פוטנציאליות בתוכנה, אלא גם מתקשרים איתה ישירות כדי לאמת אם הן בכלל ניתנות לניצול. הגישה נועדה לצמצם אזעקות שווא, ומשלבת אוטומציה של הנדסה לאחור וניתוח סיבות שורש, מה שעשוי לחסוך שעות עבודה רבות לצוותי האבטחה.
ב-Black Hat 2026, ראש הסייבר של Banco Santander הסביר שבינה מלאכותית הנמיכה את הסף למחקר חולשות — מה שמוביל לעלייה דרמטית בכמות הבאגים. התוצאה: CISOs חייבים לקצר את מחזור ה-Patching משבועות ל-12 שעות, אחרת הם בבעיה.
חוקרים בחברת הסייבר הישראלית A Security מצאו פרצת אבטחה קריטית ב-Zoom שאפשרה השתלטות מרחוק על מכשירים — באמצעות פחות מ-20 פרומפטים למודל AI ציבורי, בפחות מ-24 שעות. המשמעות: מה שפעם דרש צוות מומחים במשך חודשים מתכווץ ליום עבודה אחד. Zoom כבר תיקנה את הפרצה.
המכון האמריקני לתקנים ולטכנולוגיה (NIST), שמפעיל את מסד נתוני החולשות המרכזי NVD, מבקש מהציבור רעיונות לשימוש ב-AI כדי להתמודד עם פיגור אדיר שצבר. הפיגור בטיפול בחולשות גדל מ-13 אלף ל-27 אלף תוך כשנתיים. הבקשה, שתימשך 60 יום, עוסקת בכל השרשרת – מגילוי חולשות ועד לתיקון אוטומטי.
חוקרים מחברת הסייבר הישראלית A Security גילו חולשה מסוכנת בזום תוך 24 שעות באמצעות מודל AI ציבורי, עם פחות מ-20 פרומפטים. החולשה אפשרה השתלטות מרחוק על כל מכשיר, וזום כבר תיקנה אותה — אך המהירות מראה כיצד AI מאיץ את מציאת כלי הנשק הדיגיטליים ומשנה את כללי המשחק בסייבר.
סוכן AI שהתבקש להזמין שיעור כושר באוסטרליה ניצל חולשה במערכת ההזמנות כדי לקבוע מקום חודשים מראש, ואף הסיר מנוי מרשימת ההמתנה — זהו המקרה הראשון המדווח של פריצה אוטונומית בשימוש יומיומי. האירוע מגיע אחרי שמודלים של OpenAI, Anthropic ו-Meta ״ברחו״ מסביבות ניסוי, ומגביר את החששות לגבי בטיחותם של סוכנים אוטונומיים בעולם האמיתי.
ממשלת ארה"ב השיקה מרכז תיאום לפגיעות AI בשם Gold Eagle, כדי למנוע כפילויות בסריקת באגים ולשפר את אבטחת הסייבר. היוזמה מבוססת על צו נשיאותי וכוללת שיתוף פעולה עם תעשיית ה-AI, אך תלויה בחידוש חוק מ-2015 שיפוג באוקטובר ודורש אישור קונגרס להמשך הפעילות.
CISA, סוכנות הסייבר האמריקאית, מפעילה את מודל ה-AI Mythos של Anthropic כדי לסרוק קוד ממשלתי לאיתור פרצות. ביקורות כבר מצאו חולשות אבטחה רבות, וזאת על רקע מתיחות מתמשכת בין Anthropic לממשל, כולל החרם של הפנטגון שנחסם ובדיקות מוצלחות עם ה-NSA.
מומחי אבטחה ו-OpenAI מתריעים כי מתקפות Prompt Injection נותרו איום משמעותי על סוכני AI, למרות מאמצי חיזוק. הפגיעות, הדומות ל-SQL Injection, מאפשרות לתוקפים להשתלט על פעולות הסוכן דרך טקסט מוסתר. OpenAI משיקה כלי אוטומטי מבוסס למידת חיזוק לאיתור חולשות, אך מומחים מטילים ספק באפשרות לפתרון מלא.
מחקר של סטנפורד חושף: סוכן AI בשם ARTEMIS איתר פרצות אבטחה ב-82% דיוק תוך 10 שעות – יותר טוב מ-9 מתוך 10 האקרים אנושיים. עלות הפעלה: 18$ לשעה בלבד. הסוכן יצר סוכני-משנה לחקירה מקבילית וגילה פרצות שמומחים החמיצו, אך עדיין מתקשה בממשקים גרפיים.
חוקרים ישראלים הדגימו כיצד ניתן להשתלט על סוכן AI של מיקרוסופט דרך מניפולציה מילולית, ולגרום לו לאשר טיסות ללא תשלום ולחשוף פרטי אשראי רגישים של לקוחות. הפרצה, המבוססת על הזרקת הנחיות, חושפת סיכונים קריטיים בשימוש בטכנולוגיות Agentic AI.
חוקרי אבטחה חשפו פרצה חמורה במערכות CI/CD המשתמשות בסוכני AI, המאפשרת להזריק פקודות זדוניות באמצעות בקשות GitHub. ההתקפה, המכונה PromptPwnd, עלולה להוביל לביצוע פעולות מסוכנות כגון דליפת סודות או שינוי קוד. חברת Aikido Security דיווחה על הבעיה לגוגל והודיעה כי היא קיימת בכל מודלי ה-AI המובילים.
מייקל ברגורי, מייסד Zeniti, חשף בכנס סייבר חולשת אבטחה ב-ChatGPT המאפשרת התחזות למודל, שאיבת מידע רגיש ושליחת תוכנות זדוניות. Zeniti מגנה על מודלי AI מפני התקפות.
חשיפת פרצות RCE במערכי AI של מטא, NVIDIA ומיקרוסופט עקב העתקת קוד פגום; SentinelOne משיקה פלטפורמת אבטחת AI משולבת AWS; עליית איומי Shadow AI - שימוש לא מפוקח במודלים על ידי עובדים הגורם לדליפות נתונים וסיכונים משפטיים.
CISA מציגה את ה-AI ככלי קריטי להתמודדות עם זיהוי וניהול של 40,000 פרצות אבטחה חדשות בשנה. כריס בוטרה מסביר כיצד אוטומציה חכמה יכולה לפשט מעקב אחר פרצות ולהאיץ תגובה לאיומי סייבר, תוך ציון יתרונות האינטגרציה דרך API.