ידיעות בינה מלאכותית בנושא DETECTION
בדיקות מראות שאפשר להטעות גלאי AI באמצעות החלפה פשוטה של מילים, אף ש-Pangram Labs טוענת לדיוק של 99.5%. החברה גייסה 9 מיליון דולר, משתפת פעולה עם Substack, נמנעת מפיתוח כלי התחמקות ומקדמת שכבת אימות. הדיון באמינותו של תוכן AI נמשך, והאתגרים הטכנולוגיים רק הולכים ומתרחבים.
Elastic השיקה את Alert Zero, מוצר מבוסס AI לסינון התראות במרכזי אבטחת מידע. המערכת חוקרת איומים באופן אוטומטי ומשאירה לאנליסטים רק איומים מאומתים. ב-Elastic מזהירים גם: מודלי AI קנייניים הם המלכודת הבאה של נעילת ספקים — ומציעים ארכיטקטורה פתוחה במקום.
Pangram, חברת זיהוי תוכן AI שנוסדה על ידי בוגרי סטנפורד, גייסה 9 מיליון דולר מ-Menlo Ventures. החברה משחררת גם את מודל Pangram 4, עם דיוק של 0.0041% שיעור טעויות, ואת מודל זיהוי התמונות הראשון שלה. הגיוס מגיע על רקע העובדה שכמעט מחצית מתוכן הבלוגים ברשת הוא AI-generated.
Polygraf AI השיקה את Meeting Guard, פתרון לגילוי deepfakes בזמן אמת בפגישות עסקיות. המערכת מפחיתה סיכונים של מיליוני דולרים מהונאות AI, ופועלת ישירות בתשתיות הלקוח – תוך אינטגרציה עם פלטפורמות כמו Zoom ו-Teams.
Cribl האמריקאית רוכשת את הסטארטאפ הישראלי CardinalOps בכ-100 מיליון דולר. CardinalOps, שהוקמה על ידי יזמים סדרתיים עם ניסיון באקזיטים, מפתחת טכנולוגיית AI לזיהוי איומי סייבר. הרכישה תאפשר ל-Cribl להיכנס לראשונה לעולם אבטחת המידע ולהקים מרכז פיתוח בישראל.
התקדמות מודלי הבינה המלאכותית מציבה אתגרים משמעותיים בזיהוי תוכן שנוצר על ידם. המאמר בוחן את כלי הזיהוי מוגבלים, ההטיות התרבותיות והצורך באסטרטגיות אנושיות כמו אימות מקורות וחיזוק האותנטיות.
רשתות קמעונאיות משלבות בינה מלאכותית למאבק בהונאות בהחזרות מוצרים, המוערכות ב-850 מיליון דולר. הטכנולוגיה מזהה זיופים וקופסאות ריקות, חוזה דפוסי החזרות ומקצרת תהליכי עיבוד. קיים חשש מתופעת ה״וורדרובינג״ (שימוש והחזרה). פתרונות כמו Happy Returns משפרים את חווית הלקוח ומצמצמים הונאות.
מומחים מתריעים על כישלון כלי הזיהוי האוטומטיים מול קצב הפיתוח של טכנולוגיות AI ליצירת טקסט ווידאו. הם מבהירים כי מאתרים סטטיסטיים עד ״ווטרמרקים״ — אף שיטה לא מציעה פתרון מלא. רגולציה מתעכבת, וצרכנים נאלצים לפתח מיומנויות זיהוי עצמאיות תוך התמודדות עם סיכונים בתחומי החינוך, אמינות התקשורת ואבטחת המידע.
JFrog השיקה יכולת חדשה, Shadow AI Detection, לזיהוי שימוש לא מורשה במודלים ובשירותי AI בארגונים. הכלי, המהווה חלק מפלטפורמת ניהול שרשרת אספקת התוכנה שלה, נועד לסייע במניעת סיכוני אבטחה והפרות רגולציה. ההודעה נמסרה בכנס swampUP Europe 2025.
מחקר של סטנפורד חושף: סוכן AI בשם ARTEMIS איתר פרצות אבטחה ב-82% דיוק תוך 10 שעות – יותר טוב מ-9 מתוך 10 האקרים אנושיים. עלות הפעלה: 18$ לשעה בלבד. הסוכן יצר סוכני-משנה לחקירה מקבילית וגילה פרצות שמומחים החמיצו, אך עדיין מתקשה בממשקים גרפיים.
חוקרים ישראלים פיתחו מערכת AI שיודעת לזהות תמונות וסרטוני AI בדיוק של 90%. המערכת תוצג בכנס ICCV 2025 ומשתמשת במודל רב-מצבי כדי להילחם בתוכן פוגעני ברשתות. ניתוח מראה ש-14% מסרטוני ה-AI מפרים את כללי הקהילה, בעיקר בהקשר של אלימות וטרור.
חברת Hologic הציגה בשיקגו, במסגרת כנס RSNA, מחקרים חדשים על טכנולוגיות 3DQuorum ו-Genius AI Detection. הטכנולוגיות מפחיתות את העומס על רדיולוגים בזיהוי סרטן שד, תוך שמירה על רגישות גבוהה. המחקרים כללו 160 אלף בדיקות ומקרים מאתגרים.
חוקרים ב-Northeastern פיתחו כלי קל משקל שמזהה טקסט AI ב-97% דיוק באמצעות וריאציות אנושיות במילים, משפטים ופיסוק. רץ על לפטופ, ניתן לאימון מקומי לפרטיות.
פרנקו רודריגז ויאו (21) מארגנטינה פיתח מערכת AI לגילוי מוקדם של שריפות לאחר שביתו נשרף. המערכת Satellites on Fire משלבת נתוני לוויינים מנאס״א וסוכנויות חלל עם חיזוי מבוסס בינה מלאכותית, ומתריעה לכוחות חירום ב-WhatsApp. נכון ל-2025, המערכת פעילה ב-19 מדינות, זיהתה מאות מקרים ומקדימה את מערכת נאס״א ב-7 שעות.
מבחני דיוק לגלאי תוכן AI מלמדים שבוטים שיחתיים כמו ChatGPT Plus, Copilot ו-Gemini מדויקים יותר מפלטפורמות ייעודיות. מתוך 11 גלאים שנבדקו, רק Pangram, QuillBot ו-ZeroGPT זיהו ב-100% דיוק בין תוכן אנושי ל-AI. המחקר מזהיר מפני התייחסות בלתי ביקורתית לתוצאות הגלאים.
תחקירים אחרונים חושפים: כ-80% מהתקפות ראנזום-ויר משתמשות ב-AI. סקר של Lenovo (600 IT) ממליץ על ניטור התנהגות AI, חינוך עובדים וכלי הגנה מתקדמים. המחסור בכישורי AI אבטחתיים, יחד עם סביבת IT מורכבת, מעכבים. ישראל מוצלחת בסטרט-אפים לאבטחת AI עם עשרות רכישות, וה-CrowdStrike מובילים בשוק ההולך וגדל.
F5 רוכשת את CalypsoAI תמורת 180 מיליון$ כדי לחזק הגנות AI נגד איומים כמו הזרקת פקודות ודליפת נתונים. השילוב יספק אוטומציית בדיקות אבטחה, בקרת מדיניות ותצפית רב-עננית. הרכישה מתבצעת על רף אתגרים גוברים בתחום, עם דוחות המצביעים על פערי מוכנות בארגונים ועלייה בתקנות כמו EU AI Act.
