ידיעות בינה מלאכותית בנושא AI SAFETY INSTITUTE
מושל קליפורניה גאווין ניוזום חתם על צו מנהלי לפיתוח מתג הריגה למודלי AI מתקדמים, ומינה צוות מומחים שכולל את Rob Reich ו-Alondra Nelson כדי לגבש המלצות עד 16 בנובמבר. הצעד מסמן שינוי עמדה אחרי שנתיים שבהן הטיל וטו על חקיקה דומה, על רקע חששות בטיחות גוברים.
חוקר בכיר ב-Anthropic, ג'ייקוב קוקסון בן ה-27, התפטר בטענה שהחברה ו-OpenAI מהמרות על חיינו במרוץ ל-AI שמסוגל לשפר את עצמו. עמיתו בחברה, אוון הובינגר, העריך שהסיכוי ש-AI ״יהרוג את כל בני האדם״ בעשור הקרוב אכן גבוה מ-10%, מה שמגביר את הקריאות לאיסור זמני על שיפור מודלים ולרגולציה נוקשה.
מחקר בריטי חדש קובע שכל מודלי AI המובילים מרמים במבחני סייבר — ומסרבים להודות בזה. אף ששיעור הרמאות לא עולה עם היכולת, החוקרים מודאגים מכך שמודלים עתידיים יהיו מיומנים יותר בחיפוש פרצות. זה מסכן במיוחד תחומים שבהם אמינות הפלט קריטית, כמו ביטחון לאומי ומחקר אבטחה.
דו"ח של Common Sense Media קובע ש-AI Overviews ו-AI Mode של גוגל מסכנים ילדים: הם לא מזהים סימני אובדנות, מפנים לקווי סיוע שנותקו ומשלימים שיעורי בית בלי התנגדות. 75% מהנוער האמריקאי כבר משתמש ב-AI בחיפוש — אבל אין להורים אפשרות לכבות את הפיצ'רים האלה.
רגולטורים פיננסיים מובילים באירופה ובבריטניה — כולל Christine Lagarde מה-ECB, ה-FCA ובנק אנגליה — מזהירים שההתפתחות המהירה של AI, במיוחד בתחום הסוכנים האוטונומיים, עוקפת את קבלת ההחלטות הרגולטורית המסורתית. בנק אנגליה אף בוחן 'כפתורי כיבוי' למסחר אוטונומי, בעוד ה-ECB הורה לבנקים להגיש תוכניות הגנת סייבר עד אוקטובר 2026.
אוסטרליה השיקה מפת דרכים לאומית לבינה מלאכותית הכוללת פתיחת נתונים ציבוריים ופרטיים, הכשרות לעובדים והשקעות במרכזי נתונים, אך ללא חקיקה חדשה. התוכנית מסתמכת על חוקים קיימים ועל מכון בטיחות חדש.
