ידיעות בינה מלאכותית בנושא RISK MANAGEMENT
סאטיה נאדלה מ־Microsoft קורא להתייחס למודלי AI מתקדמים כמו לסיכון פנימי, לא מפני שהם זדוניים אלא כי קשה מאוד להבין ולתעד את התנהגותם. הוא דורש בלם חירום שמאפשר לאדם מורשה לעצור מודל באמצע משימה, ומבהיר שארגונים לא יכולים להאציל את האחריות לבטיחות למפתחי המודלים.
תעשיית הביטוח עוברת ממרוץ מהירות AI לדרישות אמון ושקיפות, עם רמת דיוק של 98% שכבר הוכחה בפרודקשן. במקביל צומח שוק חדש: Armilla AI, Munich Re ואחרות מציעות פוליסות ייעודיות לסיכוני AI, בעוד שברוקרים מתמודדים עם ״כיסוי שקט״ מסוכן בפוליסות קיימות. 50% מהענף מאמינים שביטוח AI יהפוך לקו מסחרי מרכזי.
CFC מעדכנת את פוליסת ה-Cyber Proactive Response עם כיסוי אישי למנהלים בכירים, כיסוי מפורש לאירועי בינה מלאכותית והארכת תקופת השיפוי בגין הפרעות עסקיות מ-12 ל-18 חודשים. העדכונים נועדו להתמודד עם סיכונים אישיים, תפעוליים וסיכונים הקשורים לבינה מלאכותית, ומשקפים לקחים מאירועי סייבר גדולים מהתקופה האחרונה.
בכירי ServiceNow סיפרו בכנסים האחרונים על אתגר ניהול סוכני AI בארגונים: מתג כיבוי חייב להבין את ההקשר העסקי, אחרת הוא עלול לעשות יותר נזק מתועלת. ב-Standard Chartered השיגו שיעור סטייה של 77% בבקשות עובדים ללא מגע אנושי, אבל הדרך לשם דורשת חשיבה מחדש על תהליכים — לא רק אוטומציה של הקיים.
סקר PwC בקרב 3,934 מנהיגים עסקיים מ-71 מדינות מראה שאין הסכמה על מי נושא באחריות לממשל ולאבטחת AI, למרות הצפי לעלייה בתקציבי הסייבר אצל 84% מהמשיבים. האיומים המרכזיים הם התקפות AI כמו בוטנטים והרעלת נתונים, ורק 39% מהארגונים ערוכים עם תוכניות המשכיות עסקית פורמליות.
מנהלי סייבר בכירים, ובראשם מנכ״ל Palo Alto Networks, דורשים מהתעשייה להתמקד באיומי AI קונקרטיים במקום בתרחישי אפוקליפסה. התקרית האחרונה — שבה Gemini של גוגל פרץ לשלוש חברות אמיתיות במסגרת תרגיל — מראה שהאיום כבר כאן, לא בעתיד.
ממשל ה-AI מפגר: 88% מהארגונים מאמצים AI, אך מנהלי ה-IT מבלים 26% יותר זמן על ניהול סיכונים. דוחות מ-AXA XL, S&P ו-AWS מזהירים מ-Shadow AI ומסיכוני אבטחה קריטיים, עם ציפיות להתייעלות של 6–7% עד 2028 אם הממשל יותאם.
Beazley משיקה שני כיסויי ביטוח סייבר חדשים ל-AI: כיסוי לכיבוי רצוני של מערכות AI, הראשון בתעשייה, וכיסוי להגנה רגולטורית ולקנסות. המהלך נועד לספק בהירות לאימוץ ה-AI הגדל, על רקע חששות קודמים לגבי כיסוי ביטוחי לסיכונים חדשים ומחירי ביטוח סייבר שירדו למרות עליית החשיפה.
דוח RAND Corporation חושף שרוב חברות הביטוח בארה"ב שותקות לגבי כיסוי AI בפוליסות קיימות, ומתחילות להוסיף חריגים מפורשים – מה שמאיים על לקוחות שחשבו שהם מכוסים. המגמה הזו, שהחלה בקיץ 2025, מובילה לאפשרות שלקוחות יאבדו כיסוי עם חידוש הפוליסה, וחמישה מנגנונים נפרדים יכולים ליצור גל של הפסדים לחברות ביטוח.
CIOs וצוותי המשפט חולקים את האחריות לממשל ה-AI, בעוד 52% מהארגונים מאשימים את ה-CIO בתקלות של סוכני AI. לפי Gartner, 40% מהאפליקציות הארגוניות יכללו סוכני AI עד 2026, מה שמעלה את הסיכונים לארגונים — במיוחד לעסקים קטנים ובינוניים שמתמודדים עם תופעת ״AI psychosis״.
דוח חדש של Howden חושף שהסיכונים במרכזי AI בארה״ב מרוכזים ב-20 מוקדים, שבהם מתרחשים 80% מנזקי מזג האוויר הקיצוני, עם הכנסות שנתיות של 16 מיליארד דולר. בנוסף, תקיפות מלחמתיות על מרכזי AWS באמירויות ובבחריין ותביעות רעש שמספרן שולש מראות שחברות הביטוח לא מצליחות לעמוד בקצב.
תעשיית הביטוח מפתחת תקני AI להתמודדות עם סיכונים, עם תחזית לצמיחה שנתית של 80%, אך מדובר בפלח נישתי. בנוסף, עלייה של 262% בתקריות הקשורות ל-AI בשנים האחרונות דוחפת חברות להחמיר את ההחרגות בפוליסות.
AXA מטמיעה תשתית AI מפוקחת כדי לעמוד בתקנות ה-FCA, על רקע דוח שלפיו יותר מ-75% מחברות הפיננסים בבריטניה כבר משתמשות ב-AI בפונקציות ליבה — נתון שמגביר את הלחץ על ה-FCA להבהיר את כללי האחריות.
Fortinet הודיעה על כוונתה לרכוש את Virtue AI כדי להתמודד עם אתגרי האבטחה של AI אג'נטי – סוכנים אוטונומיים שפועלים בשם משתמשים. הרכישה, חלק מסדרת מהלכים של החברה, מגיעה על רקע עלייה של 97% במניית Fortinet השנה וצמיחה בביקוש לפתרונות אבטחת AI. התנאים הכספיים לא פורסמו, אך המהלך מדגיש את המעבר לאבטחה רציפה של מערכות AI.
קרנות ההשתלמות הישראליות ירדו חודש שני ברציפות ביולי 2026, עם תשואות שנעו מתשואה אפסית ועד תשואה שלילית של 1.2%, על רקע תנודתיות בשווקים הקשורים ל-AI. מומחים מדגישים ניהול סיכונים ופיזור, על רקע תהליך הורדת ריבית שטרם הסתיים.
קואליציית AITSC מגייסת 50 מנהלי אבטחה וטכנולוגיה מארגונים גדולים כדי לבנות תקני AI מאפס — מהשטח, לא מתיאוריה. היוזמה קמה על רקע נתונים שמראים שרק שליש מהארגונים מדווחים על ממשל AI בוגר, ו-48% מציינים אבטחה כמחסום המרכזי — יותר מפי שניים לעומת 2024. ההרשמה פתוחה כעת.
טסלה הגדילה את הוצאות ההון שלה ב-142% ל-5.8 מיליארד דולר ברבעון השני, והביאה לירידה ברווחים ולתזרים מזומנים שלילי ראשון מאז 2024. החברה מתכננת הוצאות שנתיות של יותר מ-25 מיליארד דולר, ושוקלת גיוס חוב נוסף של 30 מיליארד דולר כדי לזרז השקעות ב-AI, רובוטים ומוניות אוטונומיות – מהלך שוול סטריט דווקא עלול לפרש כחיובי.
חברות ביטוח בארה"ב כמו Chubb ו-AIG כבר מחריגות AI גנרטיבי מביטוחי CGL ו-E&O רגילים. חברות שמשתמשות ב-AI בלי מדיניות כתובה חושפות את עצמן לתביעות D&O שהולכות וגוברות, שכפלו פי 2 בשנים האחרונות. מומחים קוראים להקים מופע AI ארגוני סגור ולכתוב מדיניות פורמלית לפני החידוש הבא.
ארגונים צריכים לעבור מהטמעת כלי AI לטיפול ביסודות: שיפור איכות הנתונים, השקעה בתשתיות מחשוב דינמיות וגיבוש מדיניות שימוש סדורה. טעויות משכנעות של AI בהחלטות פיננסיות עלולות לעלות ביוקר, וגישה מדורגת עם צוותים חוצי-ארגון יכולה להפחית סיכונים כמו Shadow AI והטיות.
מחקרים עדכניים חושפים פערי אמון הולכים וגדלים בין מפתחי AI למשתמשים, לצד גל מתקפות סייבר מתוחכמות. בעוד 77% מהארגונים חסרים הגנות בסיסיות, תקני האבטחה הקיימים אינם רלוונטיים לאיומים החדשים. הפתרון: מסגרות הגנה ייעודיות, שקיפות ארגונית ושיתוף פעולה תעשייתי.
הביקוש המעריכי לחשמל מצד מודלי AI מאיים על יציבות רשתות האנרגיה העולמיות, עם הכפלת צריכת מרכזי הנתונים הצפויה עד 2030. חסמים כמו תורי חיבור של עשר שנים ועלויות חומרי גלם מרקיעות שחקים דורשים מעבר דחוף לאנרגיות מתחדשות. ישראל, הצפויה להכפיל את הביקוש לחשמל עד 2050, חייבת להשקיע בשדרוג תשתיות ולמנף את הפוטנציאל הסולארי שלה.
OpenAI מגייסת ראש מוכנות חדש שיוביל את הטיפול בסיכונים מתקדמים של מודלי בינה מלאכותית, כולל סייבר, נשק ביולוגי והשפעות על בריאות הנפש. התפקיד, הכולל שכר של 555,000$ ואקוויטי, מתואר כ'מלחיץ וקריטי' עקב הצורך לאזן בין חדשנות לבטיחות. המינוי מגיע לאחר ביקורת על השפעת ChatGPT על משתמשים ושינויים בצוותי הבטיחות של החברה.
אימוץ מהיר של AI בארגונים עלול להוביל לסיכוני הרשאות עודפות וחוב טכני. מקרה דליפת הנתונים במקדונלד'ס, שחשף 64 מיליון מועמדים, ממחיש את הסכנה בהרשאות AI בלתי מפוקחות. ארגונים חייבים לבנות תשתית ניהול סיכונים הכוללת פיקוח מרכזי, מדיניות הרשאות מחמירה והכשרת עובדים למניעת משברים עתידיים.
ארגונים רבים נופלים למלכודת הביטחון המלאכותי שמספקות מערכות AI, ומזניחים את הביקורת ההכרחית. מחקרים עדכניים חושפים כי הערכת חסר של מגבלות ה-AI מובילה לטעויות אסטרטגיות חמורות, מאי-זיהוי סיכונים עד קבלת החלטות המבוססות על נתונים מוטים. פתרון המשבר דורש מיסוד פרוטוקולי אימות קפדניים והכשרה ביקורתית למקבלי ההחלטות.
קרן הגידור Citadel משיקה צ'אט בוט ופלטפורמת AI מתקדמת לאנליסטי מניות, אך מזהירה מפני העברת שיקולי השקעה לידי המכונה. הכלים נועדו לייעול תהליכי מחקר וזיהוי תבניות שוק, תוך הדגשה שהשיפוט האנושי נותר חיוני.
מומחים קובעים: AI משפר את ניתוח סיכוני ספקים וגורמי צד שלישי, אך חברות חייבות לשמור על אחריות מלאה להחלטות ועל פיקוח אנושי. מעבר מחיזוי פרואקטיבי דורש הקשר עסקי, מנהיגות ושילוב בין AI לבני אדם.
Rapid7 משיקה שדרוגי AI לפלטפורמת האבטחה שלה תוך חששות שוק עקב ירידה של 53.6% במהלך השנה. המניה נסחרת בהנחה ליעד אנליסטים אך עם מכפיל P/E גבוה מהתעשייה. השילוב בין טכנולוגיה מתקדמת לאתגרים פיננסיים מציב סימני שאלה על יכולת החברה לממש את הפוטנציאל.
בינה מלאכותית משנה את ענף הביטוח אך יצרה פערים בכיסוי סיכונים. אנדריאה וורד מ-CRC מציינת אתגרים כמו חוסר בהירות משפטית ועומק בלתי צפוי של אחריות. בעוד מתקני ביטוח ייעודיים צומחים, היא מדגישה ש-AI צריך להישאר כלי עזר ולא להחליף שיקול דעת אנושי. הדיונים יימשכו בוועידת הנשים בביטוח באוקטובר.
מדריך AWS ליישום AI בארגונים מתמקד בניהול סיכונים ייחודיים כמו הטיות, פרטיות ושקיפות באמצעות מסגרת ERMF. חלק 1 מציג אתגרים כמו פלטים לא-דטרמיניסטיים ואיומי Deepfake, וחלק 2 מספק כלים מעשיים להתאמת ניהול סיכונים כולל Amazon Bedrock Guardrails. כולל דוגמאות מ-TP ICAP ו-Rocket Mortgage ליישום מבוקר תוך עמידה ב-GDPR.
סוכני AI אוטונומיים מחוללים מהפכה במרכזי אבטחת סייבר עם הבטחות לאוטומציה מוחלטת. למרות שיפורים של 77% בזיהוי איומים ו-53% צמצום בכרטיסי תמיכה, סוכנים אלו סובלים מטעויות בקצב של 60%, סיכוני ממשל ופערי אמון בין הנהלה לצוותים. מומחים מזהירים ששגיאות מתפשטות ללא יכולת לפענח את מקורן, וקוראים למסגרות בקרה חדשות לפני שיהיה מאוחר.
