לתביעות נגד סוכני AI עשויה להיות השפעה חיובית על בטיחות הפיתוחים
יוצ'ואה בנג'יו, מחלוצי ה-AJ, טוען שתביעות עתידיות נגד סוכני בינה מלאכותית עשויות לחזק את הבטיחות הטכנולוגית. במקביל, חברת Relm משיקה פוליסות ביטוח ייעודיות לסיכוני AJ. הפרטים בכתבה.
התפתחות סוכני AI עשויה להוביל לגל תביעות חדש - אך מומחים רואים בכך הזדמנות
לפי פרסום בלעדי ב-MLex, יוצ'ואה בנג'יו, מהיח"מים בעולם ה-AI (המכונה "אבי הבינה המלאכותית"), מאמין שגל תביעות הצרכנות העתידי נגד סוכני AI עשוי להוות "כוח חיובי" שיאלץ מפתחים ליצור מערכות בטוחות יותר.
"הטעויות שסוכני AI יעשו עשויות להיות המקור הבא לתביעות הגנת צרכן בארה"ב", מסביר בנג'יו, שמוביל בינתיים את המיזם החדש LawZero - ארגון ללא מטרות רווח המפתח פתרונות טכניים ל-agentic AI מובנה-בטיחות (Safe-by-design).
התפתחויות נוספות בתחום:
- חברת הביטוח Relm Insurance מברמודה השיקה מוצרי ביטוח ייעודיים ל-AJ:
- ביטוח לחברות פלטפורמות AI
- פוליסות לעסקים המשתמשים ב-AJ צד שלישי
- הביטוחים מתייחסים לסיכונים ייחודיים כמו אחריות על החלטות אוטונומיות של סוכנים
בנג'יו מציין כי למרות הסכנות הטמונות בסוכני AI מתקדמים, העלייה בתביעות עשויה למעשה לשפר את הסטנדרטים התעשייתיים ולעודד אימוץ כללי אחריות מחמירים יותר.