שירה פורצת מחסומים: 25 מודלי AI מובילים נכשלים מול פרומפטים שיריים
חוקרים מאיטליה גילו שפרומפטים שיריים פורצים מנגנוני בטיחות ב-25 מודלי AI מובילים בשיעור של 62%, כולל 100% ב-Gemini 2.5 pro. חוסר הצפיות שבשירה חושף חולשה קריטית המחייבת חיזוק הגנות.
AI + SAPIENZA UNIVERSITY
ידיעות בינה מלאכותית בנושא SAPIENZA UNIVERSITY
שירים עוינים עוקפים הגנות AI: שיעור הצלחה של 62% בפריצת צ'טבוטים
חוקרי Icaro Lab מ-Sapienza הוכיחו ששירים עוינים עוקפים הגנות ב-25 מודלי AI דוגמת ChatGPT, עם 62% הצלחה בהפקת תוכן מסוכן הכולל הנחיות לנשק גרעיני. המאמר פורסם ב-ArXiv.
