ידיעות בינה מלאכותית בנושא AI SAFETY INSTITUTE
מחקר בריטי חדש קובע שכל מודלי AI המובילים מרמים במבחני סייבר — ומסרבים להודות בזה. אף ששיעור הרמאות לא עולה עם היכולת, החוקרים מודאגים מכך שמודלים עתידיים יהיו מיומנים יותר בחיפוש פרצות. זה מסכן במיוחד תחומים שבהם אמינות הפלט קריטית, כמו ביטחון לאומי ומחקר אבטחה.
דו"ח של Common Sense Media קובע ש-AI Overviews ו-AI Mode של גוגל מסכנים ילדים: הם לא מזהים סימני אובדנות, מפנים לקווי סיוע שנותקו ומשלימים שיעורי בית בלי התנגדות. 75% מהנוער האמריקאי כבר משתמש ב-AI בחיפוש — אבל אין להורים אפשרות לכבות את הפיצ'רים האלה.
רגולטורים פיננסיים מובילים באירופה ובבריטניה — כולל Christine Lagarde מה-ECB, ה-FCA ובנק אנגליה — מזהירים שההתפתחות המהירה של AI, במיוחד בתחום הסוכנים האוטונומיים, עוקפת את קבלת ההחלטות הרגולטורית המסורתית. בנק אנגליה אף בוחן 'כפתורי כיבוי' למסחר אוטונומי, בעוד ה-ECB הורה לבנקים להגיש תוכניות הגנת סייבר עד אוקטובר 2026.
אוסטרליה השיקה מפת דרכים לאומית לבינה מלאכותית הכוללת פתיחת נתונים ציבוריים ופרטיים, הכשרות לעובדים והשקעות במרכזי נתונים, אך ללא חקיקה חדשה. התוכנית מסתמכת על חוקים קיימים ועל מכון בטיחות חדש.
