ידיעות בינה מלאכותית בנושא AI SECURITY INSTITUTE
מחקר בריטי חדש חושף כי 33% מהמבוגרים משתמשים ב-AI לתמיכה רגשית, כש-4% מקיימים שיחות יומיות. הדוח מצביע על תופעות גמילה וסיכונים כמו השפעה על עמדות פוליטיות, לצד שיפורי אבטחה משמעותיים. מומחים מתריעים על סיכוי ממשי להשגת AGI בתוך שנים בודדות.
קליפורניה מאשרת חוק SB 53 המחייב חברות AI גדולות בשקיפות אבטחה, הגנת מדליפים ותשתית מחשוב ציבורית. החוק ממתין לאישור המושל ניוסום, שטרם הביע דעתו. במקביל, OpenAI ו-Anthropic חושפות שיתופי פעולה עם ממשלות ארה"ב ובריטניה בזיהוי פרצות אבטחה במערכות שלהן.
מחקר חדש של EleutherAI מגלה כי הסרת תוכן מסוכן מנתוני האימון של בינה מלאכותית מפחיתה סיכונים ביולוגיים ב-LLMs. הגישה המונעת בטוחה יותר משיטות קיימות ועמידה בפני פריצות. ממצאי המחקר רלוונטיים גם למודלים קוד פתוח, ומעלים שאלות על שקיפות בתעשיית ה-AI.