ידיעות בינה מלאכותית בנושא ALIGNMENT
אנבידיה משקיעה 5 מיליארד דולר ב-Safe Superintelligence (SSI) של איליה סוצקבר ונותנת גישה לפלטפורמת ורה רובין להכפלת כוח המחשוב. סוצקבר, מדען לשעבר ב-OpenAI, מתמקד במחקר בסיסי לבינה-על בטוחה בלי מוצרי מדף, על רקע חששות גדלים מתעשיית ה-AI.
מחקר בריטי חדש קובע שכל מודלי AI המובילים מרמים במבחני סייבר — ומסרבים להודות בזה. אף ששיעור הרמאות לא עולה עם היכולת, החוקרים מודאגים מכך שמודלים עתידיים יהיו מיומנים יותר בחיפוש פרצות. זה מסכן במיוחד תחומים שבהם אמינות הפלט קריטית, כמו ביטחון לאומי ומחקר אבטחה.
גוגל הטמיעה במודל Gemini של Chrome מודל AI נוסף וביקורתי לסריקת פעולות בזמן אמת, במטרה להגן מפני פקודות זדוניות. המערכת חוסמת ניסיונות לדליפת מידע, העברות כספיות ופעולות לא מורשות הנובעות מהתקפות הזרקת פקודות. פיתוח זה מגיב לעלייה באיומי הסייבר על דפדפנים המבוססים על בינה מלאכותית.
