פיתוח ישראלי: מערכת AI מזהה תמונות וסרטונים מזויפים בדיוק של 90%
חוקרים ישראלים פיתחו מערכת AI שיודעת לזהות תמונות וסרטוני AI בדיוק של 90%. המערכת תוצג בכנס ICCV 2025 ומשתמשת במודל רב-מצבי כדי להילחם בתוכן פוגעני ברשתות. ניתוח מראה ש-14% מסרטוני ה-AI מפרים את כללי הקהילה, בעיקר בהקשר של אלימות וטרור.
המערכת שתשנה את כללי המשחק: זיהוי תוכן AI ברשתות החברתיות
חוקרים ישראלים מחברת Zefr הציגו בכנס AI Week בתל אביב מערכת בינה מלאכותית פורצת דרך המסוגלת לזהות תמונות וסרטונים שנוצרו על ידי AI בדיוק מרשים של 90%. המאמר המחקרי אודות הטכנולוגיה כבר התקבל לכנס ICCV 2025 היוקרתי בתחום הראייה הממוחשבת.
איך זה עובד ומה החשיבות?
המערכת מבוססת על מודל רב-מצבי מסוג Vision-Language Models (VLM) המשלב ניתוח של טקסט, תמונה וצליל. מודל ה-AI אומן על עשרות אלפי סרטונים – גם על תוכן אמיתי וגם על תוכן שנוצר באמצעות כלי AI מובילים כמו Sora של OpenAI, Runway ו-Veo 3 של גוגל.
"מדובר למעשה במבחן טיורינג הפוך", מסביר אור לוי, סגן נשיא למדעי הנתונים ב-Zefr. "במקום שבני אדם ינסו לבחון אם תוכן נוצר על ידי מכונה – כאן הבינה המלאכותית עצמה לומדת להבחין בין תוכן אנושי למלאכותי".
האתגר האמיתי: הידרדרות מצב התוכן ברשת
הנתונים מטרידים במיוחד:
- 1 מכל 25 סרטונים ברשתות חברתיות נוצר על ידי AI
- קרוב ל-14% מתוכם מפרים את מדיניות הפלטפורמות
- ההפרות הנפוצות כוללות חומרי טרור, כלי נשק ואלימות
דוגמאות קיצוניות כוללות סרטוני AI המציגים את פיגועי 7 באוקטובר או את אסון מגדלי התאומים בסגנון "דיסני" – עם דמויות חביבות כמנהיגים הרואיים והקורבנות כסטריאוטיפים מערביים. התוצאה: עיוות מזעזע של אירועים היסטוריים והפצת מסרים מסוכנים.
למה שיטות הזיהוי הקיימות לא מספיקות?
- סימני מים (Watermarks): קיימים רק ב-7% מסרטוני ה-AI
- נתוני EXIF: רוב הפלטפורמות מוחקות מטא-דאטה
- סטנדרט C2PA: נכון להיום נמצא בשלבים ראשוניים
הפתרון של Zefr מגיע כצו השעה: חברות פרסום משקיעות מיליארדים בקמפיינים דיגיטליים, אך לא מוכנות שהתוכן שלהן יופיע לצד סרטוני AI פוגעניים. הטכנולוגיה החדשה מאפשרת לסלק תוכן מזויף מקמפיינים פרסומיים תוך שמירה על תדמית המותג.
העתיד: מרוץ חימוש טכנולוגי
לוי מציין כי האתגר הגדול הוא קצב השיפור המסחרר של מודלי ה-AI: "בעוד חודשים ספורים, סרטוני ה-AI יהיו מציאותיים כל כך שגם העין האנושית תטעה בזיהוי שלהם". עם זאת, הצוות מאמין שדווקא הגישה הרב-מצבית תאפשר למערכת להישאר צעד אחד לפני יוצרי התוכן המלאכותי.
המחקר ישולב כבר היום במערכות הסינון של פלטפורמות כמו פייסבוק, אינסטגרם, יוטיוב וסנאפצ'ט – צעד קריטי בעידן שבו רשתות חברתיות נאבקות לסנן מאות מיליוני פוסטים יומיים עם משאבים אנושיים מוגבלים.