ידיעות בינה מלאכותית בנושא SHADOW AI
וובינר CyberEdBoard ב-8 בספטמבר יעסוק בסיכונים של זהויות לא-אנושיות כמו סוכני AI ו-APIs, שהולכות ומתרבות במהירות ומרחיבות את משטח ההתקפה של ארגונים. האירוע יכלול מומחים שידברו על ניהול סיכונים וממשל AI בעולם שבו אוטומציה פועלת בלי פיקוח אנושי.
סקר של 107 ארגונים גדולים חושף ש-54% מהם כבר חוו תקרית אבטחה או כמעט-תקרית הקשורה לסוכני AI. למרות זאת, רק 32% מעניקים לכל סוכן זהות ייחודית משלו, ורובם עדיין מסתמכים על סיסמאות אנושיות משותפות. הארגונים מביעים שביעות רצון גבוהה מכלי האבטחה הנוכחיים, אך מתכננים להחליפם בשנה הקרובה, מה שמצביע על פער גדל בין מהירות האימוץ לבין בקרות האבטחה.
מחקרים עדכניים חושפים פערי אמון הולכים וגדלים בין מפתחי AI למשתמשים, לצד גל מתקפות סייבר מתוחכמות. בעוד 77% מהארגונים חסרים הגנות בסיסיות, תקני האבטחה הקיימים אינם רלוונטיים לאיומים החדשים. הפתרון: מסגרות הגנה ייעודיות, שקיפות ארגונית ושיתוף פעולה תעשייתי.
JFrog השיקה יכולת חדשה, Shadow AI Detection, לזיהוי שימוש לא מורשה במודלים ובשירותי AI בארגונים. הכלי, המהווה חלק מפלטפורמת ניהול שרשרת אספקת התוכנה שלה, נועד לסייע במניעת סיכוני אבטחה והפרות רגולציה. ההודעה נמסרה בכנס swampUP Europe 2025.
שימוש לא מפוקח ב-AI על ידי עובדים (Shadow AI) מעלה סיכוני דליפת נתונים וענישה רגולטורית. במקביל, הונאות סייבר מבוססות-AI באסיה צומחות בקצב מהיר מהתגובה הבנקאית, עם הפסדים שנתיים של 37 מיליארד דולר. מומלץ לארגונים לחזק מדיניות, להציע כלי AI מאושרים ולשפר ניטור.
