ידיעות בינה מלאכותית בנושא FUTURE OF LIFE INSTITUTE
דוח חדש של מכון Future of Life חושף שחברות AI נסוגות מהתחייבויות בטיחות: Anthropic מובילה עם C+ בלבד, וכולן מחלישות ערבויות לעצור פיתוח בסכנה. הוא מגיע בזמן שגוברת העבודה הצבאית עם AI, ואין שיפור משמעותי במערכת ההתנדבותית.
קליפורניה משיקה ב-2026 רגולציית AI חדשה הכוללת דרישות שקיפות, דיווח אירועים תוך 15 יום והגנה על עובדים. החוק מגיב לחששות מומחים מסיכונים קטסטרופליים, אך מעורר ביקורת על יצירת פיצול רגולטורי ועלויות גבוהות לחברות קטנות. התעשייה קוראת לתקנים פדרליים אחידים.
מדד הבטיחות של FLI חושף כי שמונה חברות AI מובילות אינן עומדות בהתחייבויות הבטיחותיות שלהן, עם דירוגים נמוכים במיוחד בהיעדר תוכניות אמינות לשליטה בבינה על-אנושית (סופר-אינטליגנציה). אף חברה לא הציגה אסטרטגיה מהימנה למניעת שימוש קטסטרופלי או אובדן שליטה במערכות מתקדמות, על רקע רגולציה מינימלית ומרוץ טכנולוגי חסר פיקוח.
