ידיעות בינה מלאכותית בנושא NCSC
ניו זילנד מקצצת 8,700 משרות ציבוריות ומקווה לחסוך 2.4 מיליארד דולר באמצעות AI, אך מומחים מזהירים שפריסה מהירה בלי טיפול מוקדם בנתונים שאינם מנוהלים, בהרשאות גישה ישנות ובזהויות מכונה — 75% מהן ללא בעלים — עלולה להוביל לפריצות מידע ולסיכוני ציות גדולים.
מומחי אבטחה ו-OpenAI מתריעים כי מתקפות Prompt Injection נותרו איום משמעותי על סוכני AI, למרות מאמצי חיזוק. הפגיעות, הדומות ל-SQL Injection, מאפשרות לתוקפים להשתלט על פעולות הסוכן דרך טקסט מוסתר. OpenAI משיקה כלי אוטומטי מבוסס למידת חיזוק לאיתור חולשות, אך מומחים מטילים ספק באפשרות לפתרון מלא.
גרטנר וסוכנות ממשלתית בריטית מזהירות כי דפדפני AI כמו ChatGPT Atlas ו-Perplexity Comet מהווים סיכוני אבטחה שאינם ניתנים לצמצום. ההמלצה: חסימה מיידית בארגונים, בעיקר בתעשיות רגישות כמו פיננסים ובריאות, עקב סכנות של הזרקת פקודות ודליפת נתונים.
