ידיעות בינה מלאכותית בנושא FRONTIER MODEL FORUM
OpenAI חשפה ועצרה קמפיין מתואם מצד גורמים הקשורים ל-Moonshot AI, שניסו לחלץ היגיון מוגן ממודלים שלה. הפעילות, שזוהתה ביולי, כללה אלפי חשבונות והגיעה לשיא של 16,000 בקשות ביומיים, ובעקבותיה חיזקה החברה את ההגנות למניעת זיקוק עוין בעתיד.
Anthropic השיקה מערכת AI החוסמת ניסיונות שימוש בצ'אטבוט Claude לקבלת הוראות לבניית נשק גרעיני. המערכת, שפותחה בשיתוף סוכנות הגרעין האמריקאית (NNSA), מזהה ניסיונות זדוניים בדיוק של 96% תוך מתן אפשרות לשאלות מדעיות לגיטימיות. הטכנולוגיה תועבר לקונסורציום Frontier Model Forum לפיתוח כלי בטיחות נוספים.
