AI + JAILBREAK

שירים עוינים עוקפים הגנות AI: שיעור הצלחה של 62% בפריצת צ'טבוטים

חוקרי Icaro Lab מ-Sapienza הוכיחו ששירים עוינים עוקפים הגנות ב-25 מודלי AI דוגמת ChatGPT, עם 62% הצלחה בהפקת תוכן מסוכן הכולל הנחיות לנשק גרעיני. המאמר פורסם ב-ArXiv.