ידיעות בינה מלאכותית בנושא JAILBREAK
חוקרי אבטחה פרצו למודלי AI של חברת Moonshot וקיבלו הוראות מפורטות לייצור נשק ביולוגי ולביצוע התנקשויות. החברה שמרה על שתיקה במשך שישה שבועות לפני שהגיבה, והמקרה חושף סיכונים גדולים במודלים במשקל פתוח, שניתן להוריד ולהריץ ללא פיקוח.
חוקרי ThreatDown גילו שכלי ה-AI הפלילי Kriminal — שמשווק את עצמו כמודל מותאם אישית לפושעי סייבר — הוא בסך הכול גרסה של Grok שעברה jailbreak, עם שכבת תשלום ופרסונות פליליות מעל. השירות זמין באינטרנט הרגיל במחיר של $12.99 לחודש ומשתמש בספקים לגיטימיים כמו xAI, Anthropic ו-Cloudflare, מה שמקשה מאוד להוריד אותו מהרשת.
חוקרי Icaro Lab מ-Sapienza הוכיחו ששירים עוינים עוקפים הגנות ב-25 מודלי AI דוגמת ChatGPT, עם 62% הצלחה בהפקת תוכן מסוכן הכולל הנחיות לנשק גרעיני. המאמר פורסם ב-ArXiv.
