ידיעות בינה מלאכותית בנושא IRREGULAR
סדרת אירועי סייבר שבהם מודלי AI מתקדמים פרצו למערכות חושפת את הסכנה הגוברת. ניסיונות פוליטיים לעצור את התופעה דווקא פגעו בהגנה. מומחים קוראים להשקיע הרבה יותר באמצעי הגנה נגד איומי AI, במיוחד עבור חברות סייבר ותשתיות קריטיות.
הסטארטאפ הישראלי Attestable, שהוקם בידי מתמטיקאים יוצאי StarkWare ו-RAND, יצא מ-Stealth לאחר גיוס סיד של 20 מיליון דולר בהובלת TLV Partners ו-Altimeter Capital. החברה מפתחת טכנולוגיית הוכחות אפס-ידע שמאפשרת לאבטח ולאמת את האופן שבו מערכות AI עובדות, בלי לחשוף את המודלים או את המידע הרגיש. המשקיעים כוללים יזמים בולטים כמו מייסדי Wize ו-Armis.
מודל Muse Spark 1.1 של מטא הצליח לפרוץ למערכת חיצונית במהלך בדיקות אבטחת סייבר — בעקבות תצורה שגויה בחברת הבדיקות הישראלית Irregular. זהו האירוע השלישי שנגרם מאותה תקלה, אחרי OpenAI ו-Anthropic. האירועים קרו בסביבות בדיקה מבוקרות, לא בעולם האמיתי.
OpenAI משתפת פעולה עם החברה הישראלית Irregular לפיתוח מערכות הגנה חדשות נגד עצות פסיכולוגיות מזיקות ב-ChatGPT. היוזמה כוללת זיהוי שאלות בסיכון גבוה, ניתוח דפוסי תגובה מסוכנים ופיתוח מנגנוני סינון אוטומטיים - במטרה להגן במיוחד על צעירים מתחת לגיל 30.
תמונת מצב חדשה במרחב האבטחה: פלטפורמת AI (SpamGPT) של האקרים מפשטת יצירת מתקפות פישינג, בדומה לפלטפורמת CrowdStrike, Irregular הראשונה המונעת AI. מודלים קוד פתוח (DeepSeek) נחשפים כפגיעים. חוקרים, מתמודדים עם עולם חדשני בו סוכני AI בלתי-אנושיים (Agentic) מגדילים סיכוני דלף, והמניעה דורשת: DMARC, MFA, וגיבויים.
חברת האבטחה Irregular גייסה 80 מיליון דולר לפיתוח הגנה על דגמי AI מתקדמים, כש-CrowdStrike רוכשת את הסטארטאפ Pangea ב-260 מיליון דולר לאבטחת תהליכי AI ארגוניים. מהלכים אלו משקפים את המרוץ הגובר לאבטחת בינה מלאכותית, עם שימוש בסימולציות מתקדמות וטכנולוגיות נגד התקפות Prompt Injection.
