ידיעות בינה מלאכותית בנושא SHADOW AI
מחקרים עדכניים חושפים פערי אמון הולכים וגדלים בין מפתחי AI למשתמשים, לצד גל מתקפות סייבר מתוחכמות. בעוד 77% מהארגונים חסרים הגנות בסיסיות, תקני האבטחה הקיימים אינם רלוונטיים לאיומים החדשים. הפתרון: מסגרות הגנה ייעודיות, שקיפות ארגונית ושיתוף פעולה תעשייתי.
JFrog השיקה יכולת חדשה, Shadow AI Detection, לזיהוי שימוש לא מורשה במודלים ובשירותי AI בארגונים. הכלי, המהווה חלק מפלטפורמת ניהול שרשרת אספקת התוכנה שלה, נועד לסייע במניעת סיכוני אבטחה והפרות רגולציה. ההודעה נמסרה בכנס swampUP Europe 2025.
שימוש לא מפוקח ב-AI על ידי עובדים (Shadow AI) מעלה סיכוני דליפת נתונים וענישה רגולטורית. במקביל, הונאות סייבר מבוססות-AI באסיה צומחות בקצב מהיר מהתגובה הבנקאית, עם הפסדים שנתיים של 37 מיליארד דולר. מומלץ לארגונים לחזק מדיניות, להציע כלי AI מאושרים ולשפר ניטור.
