ידיעות בינה מלאכותית בנושא DEEPFAKE
תביעה ייצוגית בקליפורניה מאשימה את xAI בכך ש-Grok יצר תמונות פדופיליות על בסיס תיעוד אמיתי של התעללות מינית בילדים. לפי ניתוח חיצוני, בתוך 11 ימים בלבד יצר המודל למעלה מ-3 מיליון תמונות מיניות — מתוכן 23,000 נראו כמתארות קטינים. התביעה טוענת ש-xAI שילבה את יכולות הדיפפייק ישירות ב-X, במקום להטמיע הגנות כמו אלה של מתחרותיה.
חברת xAI של אילון מאסק תובעת במקביל את קליפורניה ומינסוטה בניסיון לבלום רגולציה חדשה על AI. התביעה נגד קליפורניה, שהוגשה כבר בדצמבר, מאיימת לבטל את חוק שקיפות נתוני האימון של מודלי AI, ובעקבותיו עלולים להתערער גם חוקים נוספים הדורשים דיווחי בטיחות. במינסוטה, xAI מבקשת למנוע אכיפה של חוק האוסר יצירת תמונות עירום מזויפות ב-AI.
ASIC, רשות ניירות הערך האוסטרלית, מזהירה מפני גל הונאות השקעה המבוססות על סרטוני deepfake של פוליטיקאים וסלבריטאים, שגרמו להפסדים של 7.4 מיליון דולר. הרמאים משתמשים ב-AI כדי לבנות ״רשת הונאה״ שלמה — מסרטון מזויף ועד אתר מזויף — שמקשה על הזיהוי. הפעם, האזהרה מגיעה מ-ASIC, לא מחברות הטכנולוגיה.
הודו מקצרת מ-36 שעות לשלוש את לוח הזמנים להסרת תוכן פלילי מהרשת, ומחייבת כל פלטפורמה לסמן תוכן שנוצר באמצעות AI בתווית ברורה. הפלטפורמות הגדולות (מעל 5 מיליון משתמשים) נדרשות גם להפעיל כלים אוטומטיים — והממשלה לא חשפה כמה תלונות על דיפ-פייקים התקבלו בפועל.
סרטון קמפיין של הרמטכ״ל לשעבר, גדי איזנקוט, הוסר בהוראת סולברג לאחר שהציג דמויות חיילים שנוצרו ב-AI ורקע שדמה להודעה צבאית על חללים. האירוע מעלה שאלה עקרונית על גבולות השימוש בתוכן סינתטי בקמפיינים פוליטיים בעלי אסתטיקה צבאית.
מנכ״ל Meta, מארק צוקרברג, התנצל בפני ממשלת הודו על חומרי פגיעה מינית בילדים ותכנים מזויפים בפייסבוק ובאינסטגרם. ההתנצלות מגיעה לאחר שפייסבוק מחקה בטעות פוסט של ראש הממשלה מודי, וממשלת הודו מאיימת לבטל את החסינות המשפטית של החברה אם לא תפעל לפי החוק המקומי — מה שעשוי לחשוף אותה לתביעות ענק.
בית המשפט הגבוה בבומביי הוציא צו ביניים המורה ל-Google, Meta ו-X Corp להסיר מיד פוסטים ודיפפייקים שכוונו נגד שר התחבורה ההודי, גאדקרי, בנוגע לתוכנית הדלק האתנולי E20. גאדקרי תובע 11 קרור רופי (כ-5 מיליון שקל) בגין הפגיעה בשמו — ובית המשפט דורש מהפלטפורמות לפתח מנגנוני זיהוי אוטומטיים.
חוק השקיפות של קליפורניה בתחום ה-AI נכנס לתוקף היום, ומחייב חברות כמו OpenAI, גוגל ו-Anthropic לסמן תוכן שנוצר על ידי בינה מלאכותית באמצעות תגיות מטא-דאטה. OpenAI הודיעה שתקים כלי סימון מים למשתמשים. החוק, שנועד להילחם בפייקים ובהונאות, יחול גם על פלטפורמות מדיה חברתית מינואר 2027, והוא מתואם עם רגולציה דומה באיחוד האירופי.
Mrunal Thakur, שחקנית בוליוודית, איימה לנקוט צעדים משפטיים נגד מי שישתמש ב-deepfakes מבוססי AI, לאחר שפרסמה אזהרה באינסטגרם שזכתה ליותר ממיליון צפיות. הצעד מצטרף לגל תביעות של סלבריטאים הודים, אך מומחים מדגישים שהאכיפה נותרת קשה בגלל ההתפשטות המהירה ברשת והסמכויות המוגבלות של בתי המשפט.
הסטארטאפ הישראלי Clarity, שפיתח טכנולוגיית זיהוי דיפ-פייק לגיוס עובדים, נרכש על ידי Deel ב-40–50 מיליון דולר. הטכנולוגיה שימשה גם גופי ביטחון בישראל אחרי 7 באוקטובר. Deel צפויה לשלב אותה בפלטפורמת ניהול כוח האדם, כחלק ממהלך רחב למניעת התחזות בעידן ה-AI.
הודו מתכננת חוק חדש למאבק בדיפפייקים ובהונאות התחזות, עם דדליין קשוח של 3 שעות להסרת תוכן לא חוקי. יותר מ-1.13 מיליון הודים כבר עברו סדנאות להעלאת המודעות לאבטחת סייבר, ופרויקטים בתחום ה-AI לאיתור דיפפייקים מוקמים במכוני טכנולוגיה מובילים.
גוגל השיקה ביום חמישי כלי AI ב-Google Earth שמאפשר ליצור תמונות לוויין מותאמות אישית. בתוך 24 שעות, חוקרים ומשתמשים יצרו דיפ-פייקים של פיגועים, מחנות פליטים פיקטיביים ותחנות כוח גרעיניות — וגוגל הסירה את הכלי. האירוע חושף פער בין יכולת טכנולוגית למנגנוני הגנה, ומעלה שאלות על עתיד בדיקות ה-QA בתעשיית ה-AI.
ה-AI Act של האיחוד האירופי נכנס לשלב האכיפה: החל מ-2 באוגוסט, חברות חייבות לסמן תוכן שנוצר ב-AI. קנסות של עד 15 מיליון אירו או 3% מהמחזור מוטלים על מפרות. בנוסף, הוקמה יחידה מיוחדת של 38 אנשי מקצוע בבריסל, שתבחן מודלים מראש ותפקח על השוק.
xAI של אילון מאסק תובעת את מינסוטה בניסיון למנוע את כניסתו לתוקף של חוק ראשון בארה״ב האוסר על אפליקציות ליצירת תמונות עירום מזויפות. החוק, שנכנס לתוקף בשבת, קובע קנסות של עד חצי מיליון דולר על כל תמונה. שופט פדרלי דחה את הבקשה לעיכוב, אבל קבע דיון ל-19 באוגוסט – מה שצפוי להיות הקרב המשפטי הראשון על גבולות החקיקה בתחום ה-AI.
חברת פרלמנט בריטית תובעת את xAI של אילון מאסק, בטענה שהצ'אטבוט Grok יצר תמונות וסרטונים מזויפים מיניים שלה. התביעה דורשת צו בית משפט שיחייב אמצעים טכניים קבועים למניעת יצירת תוכן כזה, ועשויה לקבוע תקדים על אחריות חברות AI לפלטים של המודלים שלהן.
שר המסחר ההודי Piyush Goyal הגיש תלונה למשטרה אחרי שסרטון deepfake נוצר מדבריו באמצעות AI. ה-FIR נרשם ב-4:35 בבוקר, וגם סרטון דומה של ראש הממשלה Modi נחשף כמזויף. הממשלה האשימה חשבונות פקיסטניים, הסירה קישורים רבים מהרשתות, וקראה לאזרחים לדווח על תכנים חשודים.
BOXX Insurance, חלק מקבוצת Zurich, משיקה כיסוי מפורש לנזקי AI ו-deepfake בביטוח הסייבר שלה. 86% ממנהלי הסייבר בארה"ב דיווחו על אירועי AI בשנה האחרונה. הכיסוי החדש מסיר את האזור האפור בפוליסות — ומשקף פיצול בשוק ביטוח הסייבר העולמי.
גל הונאות AI קוליות מכה בארה"ב: ה-FBI מדווח על 893 מיליון דולר בהפסדים בשנה שעברה, עם עבריינים שמשתמשים בשיבוט קול כדי לחקות קרובי משפחה. בג'ורג'יה ובפלורידה לבדן ההפסדים מגיעים לעשרות מיליונים. לאחרונה ה-FBI מזהיר גם מפני עבריינים שמתחזים לסוכנים פדרליים באמצעות deepfake כדי לפגוע שוב בקורבנות שכבר הפסידו כסף.
Polygraf AI השיקה את Meeting Guard, פתרון לגילוי deepfakes בזמן אמת בפגישות עסקיות. המערכת מפחיתה סיכונים של מיליוני דולרים מהונאות AI, ופועלת ישירות בתשתיות הלקוח – תוך אינטגרציה עם פלטפורמות כמו Zoom ו-Teams.
בפריימריז הדמוקרטי למושב בסנאט ממישיגן, AI ו-data centers הפכו לנושא מרכזי. המועמד הפרוגרסיבי Abdul El-Sayed טוען שבוחרים מעלים את הנושא בכל מפגש, בעוד חברת הקונגרס Haley Stevens מדגישה הגנה על משרות ומניעת עליית עלויות. התוצאות יקבעו אם פחדים מטכנולוגיה הם כוח אלקטורלי בארצות הברית.
בית המשפט העליון של בומביי הוציא צו זמני המגן על השחקנית פריטי זינטה מפני דיפפייסים והורה ל-Google, Meta ו-X להסיר כ-275 קישורים מפרים בתוך 72 שעות. ההחלטה מכירה בהפרת זכויות אישיות ומצטרפת לגל פסיקות דומות בהודו, מה שמדגיש את הלחץ על פלטפורמות AI למנוע שימוש לרעה.
הונאות רומנטיות עם AI מדמות נסיכים וגובות כסף מקורבנות. במקרה אחד, עובדת פיליפינית הפסידה חסכון של שנה — כ-1,600 דולר — כשארגון פשעני ניגרי עומד מאחורי הזיוף. טכנולוגיית deepfake הפכה את השיחות לממש אותנטיות, מה שמגביר את הסיכונים לכולם.
טכנולוגיית Deepfake מערערת את האמון בראיות דיגיטליות בבתי המשפט, וגורמת להקשחת דרישות האימות. בפרט, בתי המשפט בישראל דורשים כעת קבצים מקוריים, נתוני מסגרת ותצהירים מפורטים – מגמה שמשפיעה על תיקים אזרחיים ופליליים כאחד.
טראמפ פרסם סרטון AI ברשת Truth Social שבו הוא מוצג כרופא ש"מרפא" ידוענים ביקורתיים מ"Trump Derangement Syndrome" פיקטיבי. בין המוצגים: De Niro, Goldberg, O'Donnell ו-Roberts. הסרטון מצטרף לשורת תכני AI שנויים במחלוקת ששיתף הנשיא בעבר.
תמונות AI מזויפות שנוצרו שעות ספורות לאחר מעצרו של ניקולס מדורו הציפו את הרשתות החברתיות וצברו עשרות מיליוני צפיות. צוותי בדיקה זיהו את הזיוף באמצעות כלים כמו SynthID של גוגל, מה שמדגיש את האתגרים במאבק בהתפשטות מידע כוזב בעידן הבינה המלאכותית.
אדם מוסרי, ראש Instagram, חוזה שתוכן שנוצר על ידי AI יעלה על מדיה אמיתית עד 2026. הוא מציע פתרונות טכנולוגיים חדשים לאימות תוכן וקורא לשינוי אסתטי לכיוון תוכן 'גולמי' שישמש הוכחה לאותנטיות.
זאב פרבמן, מנכ"ל Lightricks, מצביע על הפרדוקס בעידן ה-AI: יצירת דיפ פייק הפכה נגישה להמונים, אך במקביל עולה מודעות הציבור לזיופים. החברה משחררת מודל קוד פתוח חדש לווידאו-אודיו, בזמן שאנימטורים במזרח עלולים להיפגע – בעוד אולפני המערב ירוויחו מיכולות הייצור החדשות.
מחקר חדש מגלה שמודלי AI יוצרים פנים היפר-ריאליסטיות שהמוח האנושי מתקשה לזהות. אפילו 'מזהים-על' (Super Recognizers) זיהו נכונה רק 41% מהדמויות, והציבור הרחב - 30% בלבד. הדרכה בת 5 דקות שיפרה את הזיהוי ל-64% ו-51% בהתאמה. הממצאים מעלים חששות משמעותיים לגבי זיוף זהויות ודיסאינפורמציה.
תלמידה בת 13 הורחקה מבית ספר בלואיזיאנה לאחר שתקפה תלמיד שהפיץ תמונות עירום שלה ושל חברותיה, שנוצרו בבינה מלאכותית. למרות פניות לצוות בית הספר ולשריף, המפיצים לא נענשו תחילה. הנערה פיתחה דיכאון ונזקקה לטיפול נפשי. רק לאחר לחץ ציבורי, שני תלמידים הואשמו בפלילים. המקרה חשף כשל מערכתי בהגנה מפני פשעי AI.
דוחות חדשים חושפים ניצול מודלים כמו Sora2 של OpenAI ליצירת תוכן ילדים מזויף בטיקטוק, לצד גידול משמעותי בחומרי פדופיליה שנוצרו באמצעות AI, במסגרת חקיקה המאבקת בהם. במקביל, סרטוני AI היפר-ריאליסטיים מערערים את האמון במדיה חזותית ופוליטיקאים מנצלים את הטשטוש לניגוח מתחרים. ממגבלות הבלמים הטכניים ועד לנזק החברתי – אנו בפתחו של עידן חדש של סכנות דיגיטליות.
