ידיעות בינה מלאכותית בנושא RISK
Trellix משיקה את Trellix Wise for Private Cloud, פתרון AI פרטי לניהול סיכוני פנים בארגונים. לפי סקר בקרב 600 CISOs, 28% מתקריות הפנים האחרונות הופעלו על ידי מערכות AI, ו-40% מתקשים לסמוך על החלטות אוטומטיות. הפתרון מציע שליטה מלאה בנתונים ותמחור צפוי כדי להתגבר על מחסומי האמון.
סאטיה נאדלה מ־Microsoft קורא להתייחס למודלי AI מתקדמים כמו לסיכון פנימי, לא מפני שהם זדוניים אלא כי קשה מאוד להבין ולתעד את התנהגותם. הוא דורש בלם חירום שמאפשר לאדם מורשה לעצור מודל באמצע משימה, ומבהיר שארגונים לא יכולים להאציל את האחריות לבטיחות למפתחי המודלים.
תעשיית הביטוח עוברת ממרוץ מהירות AI לדרישות אמון ושקיפות, עם רמת דיוק של 98% שכבר הוכחה בפרודקשן. במקביל צומח שוק חדש: Armilla AI, Munich Re ואחרות מציעות פוליסות ייעודיות לסיכוני AI, בעוד שברוקרים מתמודדים עם ״כיסוי שקט״ מסוכן בפוליסות קיימות. 50% מהענף מאמינים שביטוח AI יהפוך לקו מסחרי מרכזי.
CFC מעדכנת את פוליסת ה-Cyber Proactive Response עם כיסוי אישי למנהלים בכירים, כיסוי מפורש לאירועי בינה מלאכותית והארכת תקופת השיפוי בגין הפרעות עסקיות מ-12 ל-18 חודשים. העדכונים נועדו להתמודד עם סיכונים אישיים, תפעוליים וסיכונים הקשורים לבינה מלאכותית, ומשקפים לקחים מאירועי סייבר גדולים מהתקופה האחרונה.
ג'יימי דיימון, מנכ"ל ג'יי.פי. מורגן צ'ייס, אמר בראיון ל-Bloomberg TV שסיכוני הסייבר קפצו פי עשרה מאז השקת מודל Mythos של Anthropic. האזהרה מגיעה על רקע תקריות בטיחות שעליהן דווח ב-Anthropic וב-OpenAI לאחרונה, וקריאה גוברת להאטת פיתוחם של מודלים מתקדמים של בינה מלאכותית עד להקמת מערכי בטיחות חזקים יותר.
בכירי ServiceNow סיפרו בכנסים האחרונים על אתגר ניהול סוכני AI בארגונים: מתג כיבוי חייב להבין את ההקשר העסקי, אחרת הוא עלול לעשות יותר נזק מתועלת. ב-Standard Chartered השיגו שיעור סטייה של 77% בבקשות עובדים ללא מגע אנושי, אבל הדרך לשם דורשת חשיבה מחדש על תהליכים — לא רק אוטומציה של הקיים.
סקר PwC בקרב 3,934 מנהיגים עסקיים מ-71 מדינות מראה שאין הסכמה על מי נושא באחריות לממשל ולאבטחת AI, למרות הצפי לעלייה בתקציבי הסייבר אצל 84% מהמשיבים. האיומים המרכזיים הם התקפות AI כמו בוטנטים והרעלת נתונים, ורק 39% מהארגונים ערוכים עם תוכניות המשכיות עסקית פורמליות.
מנהלי סייבר בכירים, ובראשם מנכ״ל Palo Alto Networks, דורשים מהתעשייה להתמקד באיומי AI קונקרטיים במקום בתרחישי אפוקליפסה. התקרית האחרונה — שבה Gemini של גוגל פרץ לשלוש חברות אמיתיות במסגרת תרגיל — מראה שהאיום כבר כאן, לא בעתיד.
ממשל ה-AI מפגר: 88% מהארגונים מאמצים AI, אך מנהלי ה-IT מבלים 26% יותר זמן על ניהול סיכונים. דוחות מ-AXA XL, S&P ו-AWS מזהירים מ-Shadow AI ומסיכוני אבטחה קריטיים, עם ציפיות להתייעלות של 6–7% עד 2028 אם הממשל יותאם.
Beazley משיקה שני כיסויי ביטוח סייבר חדשים ל-AI: כיסוי לכיבוי רצוני של מערכות AI, הראשון בתעשייה, וכיסוי להגנה רגולטורית ולקנסות. המהלך נועד לספק בהירות לאימוץ ה-AI הגדל, על רקע חששות קודמים לגבי כיסוי ביטוחי לסיכונים חדשים ומחירי ביטוח סייבר שירדו למרות עליית החשיפה.
דוח RAND Corporation חושף שרוב חברות הביטוח בארה"ב שותקות לגבי כיסוי AI בפוליסות קיימות, ומתחילות להוסיף חריגים מפורשים – מה שמאיים על לקוחות שחשבו שהם מכוסים. המגמה הזו, שהחלה בקיץ 2025, מובילה לאפשרות שלקוחות יאבדו כיסוי עם חידוש הפוליסה, וחמישה מנגנונים נפרדים יכולים ליצור גל של הפסדים לחברות ביטוח.
CIOs וצוותי המשפט חולקים את האחריות לממשל ה-AI, בעוד 52% מהארגונים מאשימים את ה-CIO בתקלות של סוכני AI. לפי Gartner, 40% מהאפליקציות הארגוניות יכללו סוכני AI עד 2026, מה שמעלה את הסיכונים לארגונים — במיוחד לעסקים קטנים ובינוניים שמתמודדים עם תופעת ״AI psychosis״.
דוח חדש של Howden חושף שהסיכונים במרכזי AI בארה״ב מרוכזים ב-20 מוקדים, שבהם מתרחשים 80% מנזקי מזג האוויר הקיצוני, עם הכנסות שנתיות של 16 מיליארד דולר. בנוסף, תקיפות מלחמתיות על מרכזי AWS באמירויות ובבחריין ותביעות רעש שמספרן שולש מראות שחברות הביטוח לא מצליחות לעמוד בקצב.
חוקר הבינה המלאכותית Jacob Coxson התפטר מ-Anthropic ב-8 בספטמבר 2026, והזהיר שה-AI עלול לחסל את האנושות בתוך עשור. עמיתו Evan Hubinger אישר שהחברה מעריכה סיכוי של יותר מ-10% לאירוע קטסטרופלי עד 2036. הפרסום חולל גל תגובות עולמי, כולל קריאות של מנהיגי AI להאט את הפיתוח, והפוסטים של Coxson ב-X נצפו 171 מיליון פעמים.
מחקר חדש מציע מסגרת של שישה מדדים כדי לעזור למשקיעים להעריך סיכוני אמון במערכות ה-AI של Anthropic ו-OpenAI לקראת הנפקות אפשריות. תקרית Fable 5 של Anthropic גררה ירידה של 3.7% בשווי החברה, ואירוע האבטחה של OpenAI מול Hugging Face חושף סיכונים נוספים. משקיעים צריכים לעקוב אחר דיווח על תקריות, שקיפות חישוב ורגולציה כדי לזהות סיכונים לפני שהם משפיעים על הערך הכלכלי.
תעשיית הביטוח מפתחת תקני AI להתמודדות עם סיכונים, עם תחזית לצמיחה שנתית של 80%, אך מדובר בפלח נישתי. בנוסף, עלייה של 262% בתקריות הקשורות ל-AI בשנים האחרונות דוחפת חברות להחמיר את ההחרגות בפוליסות.
אחרי שג׳ייקוב קוקסון מ-Anthropic התפטר עם אזהרות קשות, יותר מ-20 חברי קונגרס אמריקאים דורשים פיקוח פדרלי חזק יותר על AI, כולל סמכויות חירום. דאריו אמודיי הציג תוכנית להאטת הפיתוח, אך מבקרים טוענים שזה מאוחר מדי, והנשיא טראמפ מהסס לפעול.
מחקר מגלה שסוכני AI בארגונים ניגשים בממוצע ל-55 מאגרי מידע — פי 15 מזה של עובד אנושי — ו-79% מהם יכולים לגשת ל-API keys ול-tokens. מומחי אבטחה מזהירים מ-Shadow AI, מ-intent drift ומהפער בין צוותים עם תהליכי אבטחה בוגרים לבין אלה שסומכים על הסוכן בלי לסקור את ה-output שלו.
נשיא ארה״ב דונלד טראמפ תקף בחריפות מנהיגים בתעשיית ה-AI שקראו להאט את הפיתוח, כינה את דאגותיהם ״קונספירציה חולנית״ והבהיר שארה״ב תמשיך להוביל את התחום. עמדתו מתחדדת לקראת פגישתו הקרובה עם נשיא סין שי ג׳ינפינג, ומשקפת מחלוקת פוליטית חדה בארה״ב לגבי עתיד ה-AI.
חוקר בכיר ב-Anthropic, ג'ייקוב קוקסון בן ה-27, התפטר בטענה שהחברה ו-OpenAI מהמרות על חיינו במרוץ ל-AI שמסוגל לשפר את עצמו. עמיתו בחברה, אוון הובינגר, העריך שהסיכוי ש-AI ״יהרוג את כל בני האדם״ בעשור הקרוב אכן גבוה מ-10%, מה שמגביר את הקריאות לאיסור זמני על שיפור מודלים ולרגולציה נוקשה.
AXA מטמיעה תשתית AI מפוקחת כדי לעמוד בתקנות ה-FCA, על רקע דוח שלפיו יותר מ-75% מחברות הפיננסים בבריטניה כבר משתמשות ב-AI בפונקציות ליבה — נתון שמגביר את הלחץ על ה-FCA להבהיר את כללי האחריות.
ביל גייטס השווה את ה-AI ל-Hal מ-״2001״ בפסטיבל הסרטים בטלורייד, והזהיר שמערכות AI עשויות לפעול מתוך היגיון עצמאי שסותר הוראות אנושיות. האירוע התקיים בהקשר של חריגות ה-AI בהוליווד, לצד פאנלים נוספים על הסיכונים והיתרונות של הטכנולוגיה.
אנדרו ביילי, נגיד ה-Bank of England ויו״ר ה-FSB, שלח מכתב אזהרה חריג לשרי האוצר ולנגידי הבנקים המרכזיים במדינות ה-G20 לקראת הפסגה בצפון קרוליינה: מודלי AI מתקדמים מסכנים את היציבות הפיננסית העולמית, במיוחד דרך סיכוני סייבר ותמחור יתר בשוק.
Socure גייסה 156 מיליון דולר בסבב צמיחה לפי שווי של 5.2 מיליארד דולר, ורכשה את Fravity כדי להפוך את חקירות ההונאה לאוטומטיות. הרכישה נעשית על רקע קפיצה של 8,000% בהונאות מבוססות AI, ומטרתה לחסוך עד 80% מעלויות החקירה ולהפחית ב-70% את שיעור האזהרות השגויות.
מנהיגי חברות כמו OpenAI, Anthropic, Google ו-Microsoft מזהירים מחלון זמן קצר להגנה מפני איומי סייבר מבוססי AI. ב-Verbit הישראלית, מנכ״ל הטכנולוגיה מתריע מפני סוכנים אוטונומיים שפועלים מהר מדי. גרטנר מדרג את גילוי חולשות ה-AI כסיכון המתפתח החשוב ביותר, עם זמן תיקון ממוצע של 43 ימים למתקפות פעילות.
צורי דבוש, יו״ר קליל, טוען שמערכת AI עם דיוק של 80% אינה עומדת בדרישות התעשייה היצרנית. הוא מסביר את הפערים בין סביבת הפיתוח לרצפת הייצור, ומציע פתרונות כמו התמקדות בבעיות ספציפיות ופיילוטים. בנוסף, גופים כמו חממת i4Valley וקרן IL Ventures משקיעים בתחום, מה שמראה על פוטנציאל — אך גם על אתגרים גדולים בהטמעה.
Fortinet הודיעה על כוונתה לרכוש את Virtue AI כדי להתמודד עם אתגרי האבטחה של AI אג'נטי – סוכנים אוטונומיים שפועלים בשם משתמשים. הרכישה, חלק מסדרת מהלכים של החברה, מגיעה על רקע עלייה של 97% במניית Fortinet השנה וצמיחה בביקוש לפתרונות אבטחת AI. התנאים הכספיים לא פורסמו, אך המהלך מדגיש את המעבר לאבטחה רציפה של מערכות AI.
קרנות ההשתלמות הישראליות ירדו חודש שני ברציפות ביולי 2026, עם תשואות שנעו מתשואה אפסית ועד תשואה שלילית של 1.2%, על רקע תנודתיות בשווקים הקשורים ל-AI. מומחים מדגישים ניהול סיכונים ופיזור, על רקע תהליך הורדת ריבית שטרם הסתיים.
קואליציית AITSC מגייסת 50 מנהלי אבטחה וטכנולוגיה מארגונים גדולים כדי לבנות תקני AI מאפס — מהשטח, לא מתיאוריה. היוזמה קמה על רקע נתונים שמראים שרק שליש מהארגונים מדווחים על ממשל AI בוגר, ו-48% מציינים אבטחה כמחסום המרכזי — יותר מפי שניים לעומת 2024. ההרשמה פתוחה כעת.
אמזון פרסמה דוחות חזקים לרבעון השני של 2026: AWS צמחה 37% — הצמיחה הכי מהירה מאז 2021 — ועסקי ה-AI לבדם מגלגלים 25 מיליארד דולר בשנה. אבל הוצאות הקפיטל קפצו ל-173 מיליארד דולר, ומודי'ס מתריעה מפני הסיכונים. ג'סי טוען: הביקוש עוקף את ההיצע עד 2027.
