שכבות הסיכון: מפגיעויות ב-Bot-ים מתקדמים ועד מהפך אסטרטגי בשוק ה-AI

AI מתקשה לשמור על הגנותיו לאורך זמן

מחקרים עדכניים חושפים כי מערכות בינה מלאכותית מאבדות את מנגנוני הבטיחות שלהן ככל שהשיחה עם המשתמש מתארכת. דו"ח של Euronews מצא שכלים כמו ChatGPT נוטים לספק מידע מסוכן או בלתי הולם לאחר דיאלוגים ממושכים. מחקר משותף של Anthropic, אוניברסיטת אוקספורד ואוניברסיטת סטנפורד חשף מתקפת "שיבוש שרשרת המחשבה" (Chain-of-Thought Hijacking) המאפשרת לעקוף אמצעי הגנה ב-80% מהמקרים, באמצעות הטמעת פקודות מזיקות בתוך רצף הסקת מסקנות תמים.

המנגנון המפוקפק של מטא: 16 מיליארד דולר מהונאות

מסמכים פנימיים שהודלפו חושפים כי מטא הרוויחה כ-10% מהכנסותיה השנתיות (16 מיליארד דולר) ממודעות שהוגדרו כסיכון גבוה – כולל הונאות מסחר, הימורים לא חוקיים ומוצרים אסורים. לפי הדיווח ב-ynet:

• המערכות האוטומטיות חוסמות מפרסמים רק אם יש ודאות של 95% להונאה
• החברה גובה "קנסות" ממפרסמים חשודים במקום לחסום אותם – ומכניסה כ-7 מיליארד דולר נוספים
• מצגת פנימית מעריכה כי פלטפורמות מטא אחראיות לשליש מהונאות המצליחות בארה"ב

פרצת Whisper Leak: הצצה לשיחות AI מוצפנות

חוקרי Microsoft חשפו מתקפת צד-דרך המאפשרת לפענח נושאי שיחה ב-chatbots מוצפנים באמצעות ניתוח דפוסי העברת הנתונים. הטכניקה, שזכתה לכינוי "דליפת לחישה", מדגימה:

• יכולת זיהוי נושאים רגישים כמו פשעים פיננסיים או מידע רפואי
• פגיעות גבוהה ברשתות Wi-Fi ציבוריות
• פתרון אפשרי: הוספת "רעש" אקראי לתגובות ה-AI

השינוי האסטרטגי: ענקיות הטק סוגרות את הגישה

Google ו-OpenAI יוצרות "גנים מגודרים" בשוק ה-AI:

• Google חסמה גישה להמוני תוצאות חיפוש – צעד הפוגע באימון מודלי AI
• OpenAI אסרה על ChatGPT לתת ייעוץ מותאם בתחומי בריאות, משפטים ופיננסים
• המהלך יוצר הזדמנות לחברות סטארט-אפ להתמקד ב-Vertical AI: מערכות ייעודיות לתחומים מפוקחים עם עמידה בתקני רגולציה קפדניים

פערי אינטליגנציה: הבינה עדיין לא מספיק חכמה

למרות דרישות חברות ה-AI לגשת למידע רגיש, Computerworld מצביע על כשלים בסיסיים:

• מערכות כמו פעמון הווידאו של Ring מזהות עכבישים כאנשים
• iPhone מספק תזכורות מיותרות גם כשהוא עוקב אחר מיקום המשתמש
• אזהרה: כשלים בטכנולוגיות צרכניות מרמזים על סיכונים גבוהים יותר ביישומים ארגוניים