ידיעות בינה מלאכותית בנושא AIR CANADA
חוקרים ישראלים הדגימו כיצד ניתן להשתלט על סוכן AI של מיקרוסופט דרך מניפולציה מילולית, ולגרום לו לאשר טיסות ללא תשלום ולחשוף פרטי אשראי רגישים של לקוחות. הפרצה, המבוססת על הזרקת הנחיות, חושפת סיכונים קריטיים בשימוש בטכנולוגיות Agentic AI.
חברות הביטוח AIG, Great American ו-WR Berkley פנו לרגולטור בארה"ב בבקשה לאשר החרגה של תביעות הקשורות ל-AI מפוליסות ביטוח תאגידיות, מחשש לשגיאות בלתי צפויות וסיכונים סיסטמיים, כולל מקרים כמו תביעת Google וגניבה דיגיטלית.
מחקר חדש מגלה ש-85% מפרויקטי AI ארגוניים נכשלים עקב מתן אוטונומיה מוחלטת ללא הגבלות. דוגמאות מטאקו בל, אייר קנדה וגוגל חושפות דפוס חוזר הדומה לכשלי טכנולוגיה מהעבר. המפתח להצלחה: הגדרת מגבלות, מתגי חירום, ניסויים קפדניים ולקיחת אחריות. לחברות שלומדות מטעויות היסטוריות יש סיכוי להיות ב-15% המצליחים.
