ידיעות בינה מלאכותית בנושא VERIFIC
OpenAI הודיעה על שלוש תגליות מחקר חדשות במתמטיקה, בפיזיקה ובמדעי המחשב, אך הדרך שבה הוחלט לפרסם אותן — כל אחת מהן בדרך אחרת — עוררה זעם בקהילה המדעית. 28 זוכי מדליית Fields חתמו על מכתב גלוי, חוקרים נוטשים את התחום, ויש חששות גוברים מפני איומים על ההצפנה העולמית.
Zoom ו-World השיקו את World ID for Zoom ללקוחות Enterprise: סריקת קשתית במכשיר Orb, סלפי חי ופיד הווידאו מאמתים שהמשתתף אמיתי ומאפשרים להציג Human Badge. המטרה: לסכל deepfakes בעקבות הונאות כמו העברת 25 מיליון דולר ב-Arup, כש-Gartner מדווחת על ניסיון כזה אצל שליש ממנהלי הסייבר. ההשקה מגיעה אחרי בטא עם VanEck, וכוללת גם כלי אימות לסוכני AI.
Google פותחת לציבור את כלי ה-SynthID לבדיקת תוכן שנוצר ב-AI, לאחר שסימנה באמצעותו יותר מ-180 מיליארד תמונות וסרטונים. הכלי, שזמין כעת באנגלית ברחבי העולם, מאפשר לזהות אם תוכן נוצר באמצעות מודלי AI של גוגל או של שותפותיה, כמו OpenAI ו-Nvidia. כך תוכלו לוודא את האותנטיות של התכנים ברשת.
מודלי AI מזייפים זהות ב-43% מהמקרים, ו-Deloitte מעריכה שההפסדים בארה״ב יגיעו ל-40 מיליארד דולר עד 2027. מערכות הבחירות בארה״ב מותקפות בדיפ-פייקים, וב-31 מדינות נחקקו חוקים בנושא. מחקר מראה עלייה של 1,500% בסרטונים פורנוגרפיים מזויפים בתוך שנתיים. כלים חדשים וחקיקה מתאימה נדרשים כדי להתמודד עם התופעה.
עורכי פטנטים מתריעים: ממציאים שמגישים בקשות Provisional בארה״ב בעזרת AI חושפים את עצמם לסיכון חמור, כי תאריך הקדימות חל רק על מה שבאמת נתמך במסמך — ו-AI עלול ״להזות״ או לפספס את לב ההמצאה. בנוסף, שימוש לא זהיר בכלי AI חיצוני חושף מידע סודי.
Socure גייסה 156 מיליון דולר בסבב צמיחה לפי שווי של 5.2 מיליארד דולר, ורכשה את Fravity כדי להפוך את חקירות ההונאה לאוטומטיות. הרכישה נעשית על רקע קפיצה של 8,000% בהונאות מבוססות AI, ומטרתה לחסוך עד 80% מעלויות החקירה ולהפחית ב-70% את שיעור האזהרות השגויות.
הסטארטאפ הישראלי Attestable, שהוקם בידי מתמטיקאים יוצאי StarkWare ו-RAND, יצא מ-Stealth לאחר גיוס סיד של 20 מיליון דולר בהובלת TLV Partners ו-Altimeter Capital. החברה מפתחת טכנולוגיית הוכחות אפס-ידע שמאפשרת לאבטח ולאמת את האופן שבו מערכות AI עובדות, בלי לחשוף את המודלים או את המידע הרגיש. המשקיעים כוללים יזמים בולטים כמו מייסדי Wize ו-Armis.
הסטארטאפ הישראלי Clarity, שפיתח טכנולוגיית זיהוי דיפ-פייק לגיוס עובדים, נרכש על ידי Deel ב-40–50 מיליון דולר. הטכנולוגיה שימשה גם גופי ביטחון בישראל אחרי 7 באוקטובר. Deel צפויה לשלב אותה בפלטפורמת ניהול כוח האדם, כחלק ממהלך רחב למניעת התחזות בעידן ה-AI.
סוכני AI אוטונומיים חותכים פי 50 את זמן ה-verification בשבבים, לפי Synopsys ו-NVIDIA, אבל אף אחד לא באמת יודע מה קורה בקופסה השחורה. Siemens, Applied Materials ו-LAM Research רצות קדימה, ומהנדסים שלא ילמדו לעבוד עם הכלים החדשים יישארו מאחור — לא בעתיד, אלא כבר עכשיו.
סקר של חברת האימות Veriff חושף שרק 50% מהאמריקאים מצליחים להבחין בין תמונות אמיתיות לזיופי AI. הסימנים הישנים כמו אצבעות מעוותות נעלמו — וגם מומחי AI לא מצליחים לזהות הכל. ההמלצה: להפסיק להסתמך על העין לבד ולהשתמש בכלי זיהוי.
תמונות AI מזויפות שנוצרו שעות ספורות לאחר מעצרו של ניקולס מדורו הציפו את הרשתות החברתיות וצברו עשרות מיליוני צפיות. צוותי בדיקה זיהו את הזיוף באמצעות כלים כמו SynthID של גוגל, מה שמדגיש את האתגרים במאבק בהתפשטות מידע כוזב בעידן הבינה המלאכותית.
אדם מוסרי, ראש Instagram, חוזה שתוכן שנוצר על ידי AI יעלה על מדיה אמיתית עד 2026. הוא מציע פתרונות טכנולוגיים חדשים לאימות תוכן וקורא לשינוי אסתטי לכיוון תוכן 'גולמי' שישמש הוכחה לאותנטיות.
הרמוניק הודיעה שמערכת הבינה המלאכותית Aristotle שלה השיגה 96.8% דיוק במדד VERINA לאימות קוד, עם 160 אימותים נכונים מתוך 183. המשגה עולה על מודלי LLM מובילים וכוללת יישומים אלגוריתמיים מתקדמים. המערכת זמינה כעת דרך ה-API של החברה.
DoubleVerify השיקה כלי AI חדשים לאימות פרסומות בסטרימינג, כולל הגנה אוטומטית מפני תוכן מזיק. החברה חוזה צמיחה של 14% לשנת 2025 עם הכנסות צפויות של 211 מיליון דולר ברבעון הרביעי. למרות ההזדמנויות ב-Connected TV, קיימים סיכונים הנובעים מתלות בפלטפורמות סגורות ומקצב אימוץ טכנולוגיות המדידה.
AWS משיקה אימות היגיון אוטומטי ב-Bedrock לאימות מתמטי של תשובות AI. המערכת מספקת ודאות רגולטורית בענפים כמו פיננסים ובריאות באמצעות 7 קטגוריות ממצאים, יכולות יצירת תרחישי מבחן ואינטגרציה מלאה ל-API.