ידיעות בינה מלאכותית בנושא WASP
חוקרים משוודיה פיתחו מדען AI אוטונומי שמסוגל לנתח מאגרי מידע עצומים, לנסח השערות, לתכנן ניסויים במעבדה וללמוד מהתוצאות. במבחן על שמרי בירה, הוא ניתח כ-60,000 קשרים, יצר כמעט 2,000 השערות הניתנות לבדיקה וביצע את הניסויים. הפיתוח, שמומן בין היתר על ידי תוכנית WASP, צפוי להאיץ מחקר בביולוגיה ורפואה – אך החוקרים מדגישים שמדענים אנושיים עדיין חיוניים להכוונת המחקר ולשמירה על אתיקה.
מחקר חושף פרצת אבטחה מסוכנת בסוכני AI ארגוניים: הוראות מוסתרות בדפי אינטרנט יכולות לגרום לסוכנים לדלוף מידע פנימי רגיש מבלי שהמשתמש יבחין בכך. במבחנים על מעל 1,000 תרחישים, דגמי שפה שונים הראו רמות אבטחה שונות. מומחים ממליצים על הגנה רב-שכבתית ובדיקות אבטחה ייעודיות לסוכנים עם גישה למידע פנימי.
סיסקו משיקה את Project CodeGuard - מסגרת קוד פתוח לאבטחת תוכנות שנוצרו ב-AI. המערכת כוללת כללי אבטחה תעשייתיים, פועלת בשלבי פיתוח שונים ומציעה הגנה מפני פגיעויות נפוצות. המסגרת תומכת בתרגום לכלי קידוד AI פופולריים ומזמינה תרומות קוד מהקהילה.
