AI + PROMPT INJECTION

ידיעות בינה מלאכותית בנושא PROMPT INJECTION

סייבר

מתקפות Prompt Injection: האיום המתמשך על סוכני AI

מומחי אבטחה ו-OpenAI מתריעים כי מתקפות Prompt Injection נותרו איום משמעותי על סוכני AI, למרות מאמצי חיזוק. הפגיעות, הדומות ל-SQL Injection, מאפשרות לתוקפים להשתלט על פעולות הסוכן דרך טקסט מוסתר. OpenAI משיקה כלי אוטומטי מבוסס למידת חיזוק לאיתור חולשות, אך מומחים מטילים ספק באפשרות לפתרון מלא.

חדשות•22 בדצמ׳ 2025, 23:31•3 מקורות

סייבר

אזהרת אבטחה: גרטנר ובריטניה ממליצות לחסום דפדפני AI בארגונים

גרטנר וסוכנות ממשלתית בריטית מזהירות כי דפדפני AI כמו ChatGPT Atlas ו-Perplexity Comet מהווים סיכוני אבטחה שאינם ניתנים לצמצום. ההמלצה: חסימה מיידית בארגונים, בעיקר בתעשיות רגישות כמו פיננסים ובריאות, עקב סכנות של הזרקת פקודות ודליפת נתונים.

חדשות•8 בדצמ׳ 2025, 19:43•3 מקורות