ידיעות בינה מלאכותית בנושא DEEPFAKE
הסנטורית Cathy Kipp הגישה תלונה על מימון בחירות אחרי שמכון Independence Institute מימן פרסומת עם deepfake שלה כקופאית שמסרבת לתת עודף. החוק בקולורדו דורש גילוי נאות לתוכן AI — אלא אם זו סאטירה. המכון הגיש בקשה למחיקת התלונה, וההכרעה עשויה לקבוע תקדים לחופש הביטוי מול רגולציית ה-AI בבחירות.
דוח חדש מנתח את האיומים על בחירות 2026 ומגיע למסקנה ברורה: היריבים לא צריכים לפרוץ לקלפי – הם יכולים להשפיע עליכם הרבה לפני. רשתות בוטים כבר פועלות, ותוכן מזויף כבר מופץ; 71% מהציבור נתקלו במידע כוזב, ומפעילים איראניים מגייסים ישראלים לביצוע משימות תמורת תשלום. ההצבעה הידנית מגנה על הפתק – אבל לא על מה שקורה בדרך אליו.
ראש ממשלת הודו נרנדרה מודי קורא לתקנים גלובליים ולמנגנונים לזיהוי מקורם של תכנים שנוצרו ב-AI ושל Deepfakes, על רקע תיקון לחוקי ה-IT שנכנס לתוקף בהודו בפברואר 2026 ויוזמות בינלאומיות כמו ה-AI Act של האיחוד האירופי. הוא מדגיש שהונאות סייבר חוצות גבולות דורשות שיתוף פעולה בינלאומי.
Google פותחת לציבור את כלי ה-SynthID לבדיקת תוכן שנוצר ב-AI, לאחר שסימנה באמצעותו יותר מ-180 מיליארד תמונות וסרטונים. הכלי, שזמין כעת באנגלית ברחבי העולם, מאפשר לזהות אם תוכן נוצר באמצעות מודלי AI של גוגל או של שותפותיה, כמו OpenAI ו-Nvidia. כך תוכלו לוודא את האותנטיות של התכנים ברשת.
ראשת ממשלת איטליה, ג'ורג'ה מלוני, הגישה בקשה לרשום את קולה כסימן מסחר באיחוד האירופי, בהתבסס על הקלטה בת ארבע שניות מ-2019. הצעד נועד להגן עליה מפני דיפ-פייקים מבוססי AI, לאחר מקרים רבים של זיופים, כולל תמונות פורנוגרפיות, ומצטרף למאבק גלובלי של ידוענים.
כוכבי הקולנוע הטלוגו, צ'ירנג'יבי ו-Jr NTR, גינו סרטון דיפ-פייק של ג'אנווי קאפור ואיימו בפעולות משפטיות. האירוע מעורר קריאות לרגולציה על AI בהודו ומדגיש את הסכנות שבשימוש לרעה בטכנולוגיה לפגיעה בנשים.
בפרק השני של העונה ה-29, סאות' פארק מציגה סאטירה חריפה על מרכזי נתונים של AI ועל מיליארדרי טק. הפרק עוסק במאבקו של באטרס מול "עיר המיליארדרים" בחצר האחורית שלו, ומשלב בובות לייב-אקשן עם אנימציה. יוצרי הסדרה, טריי פארקר ומאט סטון, חתמו לאחרונה על עסקת ענק עם Paramount בסך 1.5 מיליארד דולר.
מודלי AI מזייפים זהות ב-43% מהמקרים, ו-Deloitte מעריכה שההפסדים בארה״ב יגיעו ל-40 מיליארד דולר עד 2027. מערכות הבחירות בארה״ב מותקפות בדיפ-פייקים, וב-31 מדינות נחקקו חוקים בנושא. מחקר מראה עלייה של 1,500% בסרטונים פורנוגרפיים מזויפים בתוך שנתיים. כלים חדשים וחקיקה מתאימה נדרשים כדי להתמודד עם התופעה.
הבינה המלאכותית יוצרת דמויות מזויפות כמו ״דונה מריה״ בברזיל כדי להשפיע על בחירות, בעוד שבארה״ב אזרחים פונים לייעוץ פוליטי מצ׳אטבוטים. התופעה הזו, שמתרחבת לאירופה, הודו וישראל, מעוררת חששות מדיסאינפורמציה ומתמרון פוליטי לקראת בחירות עולמיות.
Modulate מבוסטון גייסה 25 מיליון דולר בהובלת Future Ventures, וסך גיוסיה עומד על 60 מיליון דולר. החברה, שהוקמה ב-2017 על ידי בוגרי MIT, פיתחה ארכיטקטורה של 100 מודלים קטנים במקום מודל ענק אחד — מה שהביא אותה למקום הראשון בשני Leaderboards של Hugging Face. הפלטפורמה מנתחת יותר מ-10 מיליון שעות אודיו בחודש ומשרתת מרכזי שירות, מוסדות בריאות וארגוני אבטחה.
דובאי מציגה מודל AI בשם Saraab לזיהוי סרטוני Deepfake, בדיוק של 91%. המודל, הראשון מסוגו שפותח על ידי סוכנות ממשלתית בעולם הערבי, יהיה בקוד פתוח בסוף השנה, מה שיאפשר לחוקרים בינלאומיים לשפר אותו.
אוניברסיטת סיאול הלאומית הטמיעה טכנולוגיה שמשלבת אותות anti-deepfake ב-5,800 תמונות של בוגרים, כצעד מנע שנתיים לאחר פרשת Nth Room, שבה תמונות של בוגרות שימשו ליצירת deepfakes מיניים. זהו הצעד הראשון מסוגו בדרום קוריאה, והוא נעשה בעזרת סטארטאפ שהקימו בוגרי האוניברסיטה, כדי למנוע פגיעה דומה בעתיד.
Vaishnav Anand, תלמיד תיכון בן 16 מקליפורניה, הקים את DeepTrust באוגוסט 2024 לאחר שנפל קורבן לדיפפייק. הפלטפורמה מזהה וידאו, אודיו, תמונות ותצלומי לוויין סינתטיים בתנאי שטח. היא כוללת את AITruthCheck.app, נבחנת במסגרת ניסויי פיילוט בבתי ספר וזכתה להכרה בתחרויות יזמות בינלאומיות.
מועצת הפיקוח של Meta הפכה את החלטת החברה והורתה להסיר סרטון deepfake גזעני נגד פליטים מפייסבוק. המועצה קבעה שההגנות הנוכחיות של Meta מפני מניפולציות ב-AI "אינן מספקות" ודרשה שורה של שינויים: הורדת הסף לתוויות AI, מסכי ביניים מחייבים לתוכן מזויף ועונשים על הפצה חוזרת. זאת אחרי ש-Meta קבעה שהסרטון, שלא זכה כלל לבדיקה אנושית, אינו מפר את כללי הקהילה.
גיא טיטונוביץ׳, מנכ״ל CHEQ הישראלית, מזהיר שבבחירות הקרובות יזוזו עשרות אלפי קולות או אפילו מאות אלפים בשל מתקפות בוטים מבוססות בינה מלאכותית. הוא טוען שזו תהיה מערכת הבחירות החמורה ביותר, בשל יכולות הזיהוי המוגבלות של הפלטפורמות והיעדר רגולציה, ומצפה לקפיצה בתנועת הבוטים חודש לפני הבחירות.
נעצר גבר מרג'סטאן בחשד שיצר סרטוני Deepfake של השר הראשי של טמיל נאדו, C Joseph Vijay, כדי להונות את הציבור. הסרטונים הופצו ברשתות חברתיות, והמשטרה חוקרת אם מעורבת בפרשה רשת פלילית רחבת היקף.
מדריך משפטי חדש מפרט את דרישות חוקי הבחירות בנוגע לדיפ פייק: כל פרסום שנראה כתיעוד מקורי אך נוצר או נערך באמצעות AI חייב בסימון ברור. הפרת החוק עלולה לגרור קנס של עד 29,200 שקלים ואף שישה חודשי מאסר. החובה חלה לא רק על מפלגות, אלא גם על אזרחים פרטיים שמשתפים תכנים ברשתות החברתיות.
משרד התובע המחוזי של מנהטן החרים 12 דומיינים של אתרי דיפפייק פורנוגרפי — בפעולה הגדולה ביותר מסוגה עד היום. כ-1,200 נשים, רובן ידועניות, הופיעו בתכנים מיניים מזויפים. חלק מהאתרים פעלו מאז 2018, והחקירה בדבר זהות העומדים מאחוריהם עדיין נמשכת.
מועמד דמוקרטי בטקסס טוען שיריבו הרפובליקני השתמש במודל AI כדי ליצור פרסומת מטעה שבה ״שמו לו מילים בפה״. המרוץ הזה עשוי להכריע את השליטה בסנאט האמריקני, והוא מדגיש את הסכנה של מדיה סינתטית בפוליטיקה.
אחותה של Dolly Parton, Stella, פרסמה ב-Instagram הצהרה נוקבת נגד שיטפון "ה-AI והזבל האין-סופי" ברשת מאז פטירתה. היא ביקשה ממעריצים להפסיק "לנצל אובדן" ולגלות חמלה. זה קורה לאחר שכבר נרשמו מקרים דומים במשפחותיהם של Robin Williams ו-Robert Redford, ומציג דוגמה מוחשית לכאב שגורמות "מחוות AI" שנוצרות אוטומטית.
אנטוניו רוטונדו, גבר אוסטרלי בן 56, נידון לשנתיים מאסר לאחר שנמצא אשם ב-17 אישומים בגין יצירה והפצה של תמונות דיפפייק מיניות של תלמידות ונשים. הוא טען בחקירתו שעשה זאת כי זה "מצחיק". גזר הדין מדגיש את הסכנות שבשימוש לרעה בטכנולוגיית AI ואת המחיר האנושי הכבד.
תביעה ייצוגית בקליפורניה מאשימה את xAI בכך ש-Grok יצר תמונות פדופיליות על בסיס תיעוד אמיתי של התעללות מינית בילדים. לפי ניתוח חיצוני, בתוך 11 ימים בלבד יצר המודל למעלה מ-3 מיליון תמונות מיניות — מתוכן 23,000 נראו כמתארות קטינים. התביעה טוענת ש-xAI שילבה את יכולות הדיפפייק ישירות ב-X, במקום להטמיע הגנות כמו אלה של מתחרותיה.
חברת xAI של אילון מאסק תובעת במקביל את קליפורניה ומינסוטה בניסיון לבלום רגולציה חדשה על AI. התביעה נגד קליפורניה, שהוגשה כבר בדצמבר, מאיימת לבטל את חוק שקיפות נתוני האימון של מודלי AI, ובעקבותיו עלולים להתערער גם חוקים נוספים הדורשים דיווחי בטיחות. במינסוטה, xAI מבקשת למנוע אכיפה של חוק האוסר יצירת תמונות עירום מזויפות ב-AI.
ASIC, רשות ניירות הערך האוסטרלית, מזהירה מפני גל הונאות השקעה המבוססות על סרטוני deepfake של פוליטיקאים וסלבריטאים, שגרמו להפסדים של 7.4 מיליון דולר. הרמאים משתמשים ב-AI כדי לבנות ״רשת הונאה״ שלמה — מסרטון מזויף ועד אתר מזויף — שמקשה על הזיהוי. הפעם, האזהרה מגיעה מ-ASIC, לא מחברות הטכנולוגיה.
הודו מקצרת מ-36 שעות לשלוש את לוח הזמנים להסרת תוכן פלילי מהרשת, ומחייבת כל פלטפורמה לסמן תוכן שנוצר באמצעות AI בתווית ברורה. הפלטפורמות הגדולות (מעל 5 מיליון משתמשים) נדרשות גם להפעיל כלים אוטומטיים — והממשלה לא חשפה כמה תלונות על דיפ-פייקים התקבלו בפועל.
סרטון קמפיין של הרמטכ״ל לשעבר, גדי איזנקוט, הוסר בהוראת סולברג לאחר שהציג דמויות חיילים שנוצרו ב-AI ורקע שדמה להודעה צבאית על חללים. האירוע מעלה שאלה עקרונית על גבולות השימוש בתוכן סינתטי בקמפיינים פוליטיים בעלי אסתטיקה צבאית.
מנכ״ל Meta, מארק צוקרברג, התנצל בפני ממשלת הודו על חומרי פגיעה מינית בילדים ותכנים מזויפים בפייסבוק ובאינסטגרם. ההתנצלות מגיעה לאחר שפייסבוק מחקה בטעות פוסט של ראש הממשלה מודי, וממשלת הודו מאיימת לבטל את החסינות המשפטית של החברה אם לא תפעל לפי החוק המקומי — מה שעשוי לחשוף אותה לתביעות ענק.
בית המשפט הגבוה בבומביי הוציא צו ביניים המורה ל-Google, Meta ו-X Corp להסיר מיד פוסטים ודיפפייקים שכוונו נגד שר התחבורה ההודי, גאדקרי, בנוגע לתוכנית הדלק האתנולי E20. גאדקרי תובע 11 קרור רופי (כ-5 מיליון שקל) בגין הפגיעה בשמו — ובית המשפט דורש מהפלטפורמות לפתח מנגנוני זיהוי אוטומטיים.
חוק השקיפות של קליפורניה בתחום ה-AI נכנס לתוקף היום, ומחייב חברות כמו OpenAI, גוגל ו-Anthropic לסמן תוכן שנוצר על ידי בינה מלאכותית באמצעות תגיות מטא-דאטה. OpenAI הודיעה שתקים כלי סימון מים למשתמשים. החוק, שנועד להילחם בפייקים ובהונאות, יחול גם על פלטפורמות מדיה חברתית מינואר 2027, והוא מתואם עם רגולציה דומה באיחוד האירופי.
Mrunal Thakur, שחקנית בוליוודית, איימה לנקוט צעדים משפטיים נגד מי שישתמש ב-deepfakes מבוססי AI, לאחר שפרסמה אזהרה באינסטגרם שזכתה ליותר ממיליון צפיות. הצעד מצטרף לגל תביעות של סלבריטאים הודים, אך מומחים מדגישים שהאכיפה נותרת קשה בגלל ההתפשטות המהירה ברשת והסמכויות המוגבלות של בתי המשפט.
