אבטחת סוכני AI, כלי הגנה חדשים ופגיעות בתוכנות: המגמות הביטחוניות החמות בעולם הטכנולוגיה

אתגרי האבטחה בעידן הבינה המלאכותית ומערכות תוכנה

בעוד ארגונים מאיצים את שילוב ה-AI בעבודה השוטפת, אתגרי אבטחת המידע מתרחבים אל עבר סוכנים וירטואליים. יצרנית האבטחה Proofpoint מכריזה על מהפך בגישה המסורתית: אם עד היום התמקדה הגנה 'אנושית' (Human-Centric) במשתמשים ובנתונים, כעת נדרש חיזוק סוכני (Agentic Security) המגן גם על סוכני AI. כפי שהסביר סמיט דוואן, CEO החברה, "סיכוני ה-AI אינם שונים מסיכונים אנושיים - דליפת נתונים, זליגת פרטי גישה, ריצת תוכנות זדוניות והנדסת פקודות (Prompt Engineering) המקבילה להנדסה חברתית".

ארבעת מוקדי החדשנות של Proofpoint:

• הגנה מתקדמת על עוזבי AI מפני מתקפות ממוקדות
• בקרת נתונים בזמן אמת בסביבות עבודה משולבות אדם-AI
• מניעת ניצול פרצות ביישומים אוטונומיים
• פסילת פקודות זדוניות לפני ביצוען

מנתוני החברה עולה כי 93% מהארגונים יצוידו בסוכני AI תוך 18 חודשים - מה שמציב אתגר חדש בפני מנהלי אבטחת מידע (CISO) הנדרשים לאזן בין חדשנות לסיכונים.

Protegrity משחררת כלי אבטחה בקוד פתוח למפתחים

במקביל, חברת האבטחה Protegrity משיקה מהדורת מפתחים (Developer Edition) בתור חבילת Python מוכללת המאפשרת:

• גילוי אוטומטי של נתונים רגישים ביישומי AI
• הרצת הגנות באמצעות ממשקי REST ו-Python פשוטים
• 'מעקי סמנטיים' (Semantic Guardrails) החוסמים הזרקת פקודות, דליפת PII וסטיות מהנושא המאושר
• אנונימיזציה אתית של נתוני אימון ללמידת מכונה

הכלי מתאים במיוחד למקרי שימוש קריטיים:

• צ'אטבוטים בעלי גישה למידע אישי
• סנכרון הגנות בין מערכי RAG (Retrieval-Augmented Generation) ומודלי שפה
• בקרת פלטים של מודלים לפני מסירתם למשתמש הקצה

החבילה זמינה כעת ב-GitHub וב-PyPI עם תמיכה בהרצה מקומית ללא צורך ברישיון.

Unity מתריעה על פגיעת אבטחה חמורה במנוע הפיתוח

יצרנית מנוע הפיתוח Unity פרסמה אזהרת אבטחה דחופה למפתחים לאחר גילוי פגיעה ברמת הרצת הקוד (Runtime) המתוארכת חזרה עד לשנת 2017. למרות שלא אותרו ניצולים של הפרצה, החברה ממליצה על:

• עדכון מיידי לגרסאות 2022.3.46, 2023.2.34, או 2021.3.50
• סריקת יישומים קיימים לאיתור פעולות חשודות
• הטמעת מנגנוני אימות תקשורת בין מודולי התוכנה

הפגיעה עלולה להשפיע על אלפי משחקים ופרויקטים אינטראקטיביים - מה שמדגיש את האתגר המתמשך באבטחת שרשראות אספקת תוכנה (Software Supply Chain).