פערי האמון ב-AI: הסכנה שאף אחד לא מדבר עליה במרוץ לחדשנות

הקרע בין מפתחי ה-AI למשתמשים – וסכנות הסייבר בפתח

מחקר Thinkers360 לשנת 2025 חושף תמונת מצב מדאיגה: מדד הדאגה המשוקלל מציב ציון 307 (מתוך 400), ללא שינוי משמעותי משנת 2024. הנתון המטריד ביותר הוא הפער בין מפתחי מוצרי AI (301) לבין משתמשי הקצה (312). בעוד 83% מספקי הפתרונות מאמינים שהיתרונות עולים על הסיכונים, רק 65% מהמשתמשים מסכימים עם קביעה זו.

הנתונים המרכזיים:

• 77% מהארגונים חסרים פרקטיקות בסיסיות לאבטחת נתונים ומודלים
• 73% ממקבלי ההחלטות חוששים מניצול מודלי AI על ידי מדינות לצורך מתקפות סייבר מתקדמות
• 63% מהחברות מוגדרות ב"אזור הפגיע" – ללא אסטרטגיית סייבר מגובשת
• עלייה של 25% בדליפת סודות ארגוניים דרך מערכות AI ב-2024 בלבד

מתקפות הסייבר החדשות: AI כנשק וכחולשה

מומחי אבטחה מתריעים על שינוי פניה של הפשיעה המקוונת:

1. זיופים מתקדמים: מערכות AI מייצרות קובצי אודיו ווידאו מזויפים ברמת ריאליזם ההופכת זיהוי הונאה לבלתי אפשרי
2. פישינג מותאם אישית: מערכות AI מנתחות פרופילים אישיים ברשתות חברתיות ויוצרות הודעות דיוג ממוקדות
3. אוטומציה של פשיעה: כנופיות האקרים מציעות שירותי Ransomware-as-a-Service בצירוף כלי AI – "פשיעת סייבר במיקור חוץ"
4. חולשות בקוד אוטומטי: 58% מהארגונים דיווחו על פרצות אבטחה חדשות שנוצרו משימוש בכלי AI לפיתוח תוכנה

מחקר בינלאומי בקרב 450 אנשי מקצוע מגלה ש-90% משימושי ה-AI בארגונים מרוכזים ב-5 אפליקציות מוכרות (כש-ChatGPT לבדו אחראי ל-50% מהשימוש), אך קיים "זנב ארוך" של עשרות כלים לא מפוקחים המהווים סיכון ביטחוני.

הבעיה האמתית: מסגרות האבטחה שנותרו בעבר

דוחות עדכניים מצביעים על כשל מערכתי: תקני האבטחה המקובלים (כמו NIST ו-ISO 27001) אינם מתאימים לאתגרים הייחודיים של עידן הבינה המלאכותית. הסיבות המרכזיות:

• התקפות בתוך תהליכים חוקיים: ניצול פרצות בתהליכי אימון מודלים או באינטראקציות טבעיות עם משתמשים
• חוסר שקיפות: 89% משימושי ה-AI בארגונים נעשים ללא נראות לצוותי האבטחה
• פערי ידע: רק 22% מהאנליסטים מאמינים ש-AI משפר את פרודוקטיביות הצוות – לעומת 71% מהמנהלים

מומחי CivAI מתריעים: "כל אדם הוא מטרה פוטנציאלית. הסוכן האנושי כבר אינו מהווה מכשול משמעותי בפני הונאות מתוחכמות".

הדרך קדימה: מהפך בתפיסת האבטחה הארגונית

הפתרונות הנדרשים לפי המומחים:

• כלים טכנולוגיים: השקעה בפתרונות אבטחה מבוססי AI (21% מתקציבי הסייבר כיום, צפויים לעלות ל-27% עד 2026)
• תקנים חדשים: פיתוח מסגרות אבטחה ייעודיות ל-AI במקום הסתמכות על תקנים מיושנים
• שקיפות: ניטור רציף של שימושי AI סמויים בארגון ומיפוי הסיכונים
• שיתוף פעולה: יצירת קונסורציומים בין-תעשייתיים למאבק באיומים משותפים

ענקיות טכנולוגיה כמו Adobe כבר מפתחות מערכות AI מתקדמות לאבחון זיופים ומתקפות prompt injection. עם זאת, מומחי PCMag מזהירים: "המירוץ בין מתקפות AI להגנות AI דומה לבית עמוס בחורי כניסה – כשהחתול המגן מנסה לרסס חומר הדברה, והעכברים לומדים לרסס בחזרה".

לסיכום, הדוח לשנת 2025 מציב מראה מדאיגה בפני תעשיית הטכנולוגיה: ללא גישור על פערי האמון וסגירת הפרצות האבטחתיות – הפוטנציאל של הבינה המלאכותית עלול להתגלגל לאפיקים מסוכנים.