ידיעות בינה מלאכותית בנושא DEEPFAKES
חברת xAI של אילון מאסק תובעת במקביל את קליפורניה ומינסוטה בניסיון לבלום רגולציה חדשה על AI. התביעה נגד קליפורניה, שהוגשה כבר בדצמבר, מאיימת לבטל את חוק שקיפות נתוני האימון של מודלי AI, ובעקבותיו עלולים להתערער גם חוקים נוספים הדורשים דיווחי בטיחות. במינסוטה, xAI מבקשת למנוע אכיפה של חוק האוסר יצירת תמונות עירום מזויפות ב-AI.
ASIC, רשות ניירות הערך האוסטרלית, מזהירה מפני גל הונאות השקעה המבוססות על סרטוני deepfake של פוליטיקאים וסלבריטאים, שגרמו להפסדים של 7.4 מיליון דולר. הרמאים משתמשים ב-AI כדי לבנות ״רשת הונאה״ שלמה — מסרטון מזויף ועד אתר מזויף — שמקשה על הזיהוי. הפעם, האזהרה מגיעה מ-ASIC, לא מחברות הטכנולוגיה.
הודו מקצרת מ-36 שעות לשלוש את לוח הזמנים להסרת תוכן פלילי מהרשת, ומחייבת כל פלטפורמה לסמן תוכן שנוצר באמצעות AI בתווית ברורה. הפלטפורמות הגדולות (מעל 5 מיליון משתמשים) נדרשות גם להפעיל כלים אוטומטיים — והממשלה לא חשפה כמה תלונות על דיפ-פייקים התקבלו בפועל.
סרטון קמפיין של הרמטכ״ל לשעבר, גדי איזנקוט, הוסר בהוראת סולברג לאחר שהציג דמויות חיילים שנוצרו ב-AI ורקע שדמה להודעה צבאית על חללים. האירוע מעלה שאלה עקרונית על גבולות השימוש בתוכן סינתטי בקמפיינים פוליטיים בעלי אסתטיקה צבאית.
מנכ״ל Meta, מארק צוקרברג, התנצל בפני ממשלת הודו על חומרי פגיעה מינית בילדים ותכנים מזויפים בפייסבוק ובאינסטגרם. ההתנצלות מגיעה לאחר שפייסבוק מחקה בטעות פוסט של ראש הממשלה מודי, וממשלת הודו מאיימת לבטל את החסינות המשפטית של החברה אם לא תפעל לפי החוק המקומי — מה שעשוי לחשוף אותה לתביעות ענק.
חוק השקיפות של קליפורניה בתחום ה-AI נכנס לתוקף היום, ומחייב חברות כמו OpenAI, גוגל ו-Anthropic לסמן תוכן שנוצר על ידי בינה מלאכותית באמצעות תגיות מטא-דאטה. OpenAI הודיעה שתקים כלי סימון מים למשתמשים. החוק, שנועד להילחם בפייקים ובהונאות, יחול גם על פלטפורמות מדיה חברתית מינואר 2027, והוא מתואם עם רגולציה דומה באיחוד האירופי.
Mrunal Thakur, שחקנית בוליוודית, איימה לנקוט צעדים משפטיים נגד מי שישתמש ב-deepfakes מבוססי AI, לאחר שפרסמה אזהרה באינסטגרם שזכתה ליותר ממיליון צפיות. הצעד מצטרף לגל תביעות של סלבריטאים הודים, אך מומחים מדגישים שהאכיפה נותרת קשה בגלל ההתפשטות המהירה ברשת והסמכויות המוגבלות של בתי המשפט.
הודו מתכננת חוק חדש למאבק בדיפפייקים ובהונאות התחזות, עם דדליין קשוח של 3 שעות להסרת תוכן לא חוקי. יותר מ-1.13 מיליון הודים כבר עברו סדנאות להעלאת המודעות לאבטחת סייבר, ופרויקטים בתחום ה-AI לאיתור דיפפייקים מוקמים במכוני טכנולוגיה מובילים.
חברת פרלמנט בריטית תובעת את xAI של אילון מאסק, בטענה שהצ'אטבוט Grok יצר תמונות וסרטונים מזויפים מיניים שלה. התביעה דורשת צו בית משפט שיחייב אמצעים טכניים קבועים למניעת יצירת תוכן כזה, ועשויה לקבוע תקדים על אחריות חברות AI לפלטים של המודלים שלהן.
בפריימריז הדמוקרטי למושב בסנאט ממישיגן, AI ו-data centers הפכו לנושא מרכזי. המועמד הפרוגרסיבי Abdul El-Sayed טוען שבוחרים מעלים את הנושא בכל מפגש, בעוד חברת הקונגרס Haley Stevens מדגישה הגנה על משרות ומניעת עליית עלויות. התוצאות יקבעו אם פחדים מטכנולוגיה הם כוח אלקטורלי בארצות הברית.
בית המשפט העליון של בומביי הוציא צו זמני המגן על השחקנית פריטי זינטה מפני דיפפייסים והורה ל-Google, Meta ו-X להסיר כ-275 קישורים מפרים בתוך 72 שעות. ההחלטה מכירה בהפרת זכויות אישיות ומצטרפת לגל פסיקות דומות בהודו, מה שמדגיש את הלחץ על פלטפורמות AI למנוע שימוש לרעה.
טראמפ פרסם סרטון AI ברשת Truth Social שבו הוא מוצג כרופא ש"מרפא" ידוענים ביקורתיים מ"Trump Derangement Syndrome" פיקטיבי. בין המוצגים: De Niro, Goldberg, O'Donnell ו-Roberts. הסרטון מצטרף לשורת תכני AI שנויים במחלוקת ששיתף הנשיא בעבר.
תמונות AI מזויפות שנוצרו שעות ספורות לאחר מעצרו של ניקולס מדורו הציפו את הרשתות החברתיות וצברו עשרות מיליוני צפיות. צוותי בדיקה זיהו את הזיוף באמצעות כלים כמו SynthID של גוגל, מה שמדגיש את האתגרים במאבק בהתפשטות מידע כוזב בעידן הבינה המלאכותית.
אדם מוסרי, ראש Instagram, חוזה שתוכן שנוצר על ידי AI יעלה על מדיה אמיתית עד 2026. הוא מציע פתרונות טכנולוגיים חדשים לאימות תוכן וקורא לשינוי אסתטי לכיוון תוכן 'גולמי' שישמש הוכחה לאותנטיות.
מחקר חדש מגלה שמודלי AI יוצרים פנים היפר-ריאליסטיות שהמוח האנושי מתקשה לזהות. אפילו 'מזהים-על' (Super Recognizers) זיהו נכונה רק 41% מהדמויות, והציבור הרחב - 30% בלבד. הדרכה בת 5 דקות שיפרה את הזיהוי ל-64% ו-51% בהתאמה. הממצאים מעלים חששות משמעותיים לגבי זיוף זהויות ודיסאינפורמציה.
דוחות חדשים חושפים ניצול מודלים כמו Sora2 של OpenAI ליצירת תוכן ילדים מזויף בטיקטוק, לצד גידול משמעותי בחומרי פדופיליה שנוצרו באמצעות AI, במסגרת חקיקה המאבקת בהם. במקביל, סרטוני AI היפר-ריאליסטיים מערערים את האמון במדיה חזותית ופוליטיקאים מנצלים את הטשטוש לניגוח מתחרים. ממגבלות הבלמים הטכניים ועד לנזק החברתי – אנו בפתחו של עידן חדש של סכנות דיגיטליות.
דוח ה-ABA מזהיר כי בינה מלאכותית בבתי המשפט עלולה להוביל לזיוף ראיות, טיעונים שגויים ואי-אמינות. לצד הפוטנציאל לייעול, האיגוד קורא להנחיות ברורות לשימוש אחראי בטכנולוגיה.
מדינות זרות, ובראשן רוסיה, מפיצות סרטוני AI מציאותיים בפלטפורמות מדיה חברתית במטרה לערער את התמיכה המערבית באוקראינה. הסרטונים, שנוצרו בטכנולוגיות מתקדמות כמו Sora 2 של OpenAI, מציגים חיילים אוקראינים מיואשים וחסרי מוטיבציה. למרות מאמצי הפלטפורמות לסנן תוכן, הסרטונים ממשיכים להסתנן ומעוררים חששות להשלכות גיאופוליטיות משמעותיות.
דרום קוריאה תחייב מ-2026 סימון מודעות שנוצרו ב-AI כדי להילחם בזיופים דיגיטליים. התקנות כוללות קנסות, אחריות לפלטפורמות ומערכי פיקוח חדשים. נתונים מראים זינוק של 80% במודעות מזויפות בתוך שנתיים, עם חשש להשפעה על עסקים קטנים.
מושל פלורידה רון דה-סנטיס מציג תוכנית מקיפה לוויסות AI הכוללת הגנה מפני דיפ פייקים, פיקוח על אינטראקציות ילדים עם בוטים והגבלות אקולוגיות על מרכזי נתונים - בניגוד מובהק לגישה הפדרלית הקוראת לרגולציה אחידה.
חברת הסייבר הישראלית Imper.ai גייסה 28 מיליון דולר לפיתוח טכנולוגיה ראשונה מסוגה למניעת התחזות ודיפ פייק בזמן אמת. המייסדים, בוגרי 8200 ומובייליי, פיתחו גישה שמנתחת מטא-דאטה בלתי ניתן לזיוף בפלטפורמות כמו Zoom ו-Slack במקום לנסות לאתר חריגות בתוכן עצמו.
הצעת חוק חדשה בארה"ב, 'AI Fraud Deterrence Act', שהוצגה על ידי חברי הקונגרס Ted Lieu ו-Neal Dunn, תכפיל את העונשים על הונאה באמצעות AI ותפליל חיקוי פקידי ממשל באמצעות דיפפייק, למעט מקרים של סאטירה. זאת כתגובה למקרים כמו חיקוי Susie Wiles ו-Marco Rubio.
תמונה של תיכון בוער בטקסס התגלתה כיצירת בינה מלאכותית, אך הספיקה לזרוע פאניקה בקהילה. המקרה מדגיש עד כמה מערכות חינוך ורשויות בעולם, כולל בישראל, אינן מוכנות לאיומי Deepfake, ומעלה צורך דחוף בפרוטוקולים רשמיים, בחינוך לספקנות דיגיטלית ובשימוש בטכנולוגיות אימות כדי למנוע כאוס ומידע כוזב.
Sora של OpenAI מייצרת סרטוני AI ריאליסטיים בצורה חסרת תקדים, ומעלה חששות כבדים מפני הפצת דיסאינפורמציה. מומחים ממליצים לבדוק חוסר עקביות בתנועה או בתאורה, לאמת מקורות ולהיעזר בכלים של פלטפורמות לאימות תוכן. נגישות הכלי לציבור הרחב הופכת את האתגר לדחוף במיוחד.
מחקר בינלאומי עם השתתפות ישראלי מגלה כי תמונות AI של אנשים מוכרים (כולל סלבריטאים) בלתי ניתנות להבחנה מצילומים אמיתיים. במבחנים עם אלפי משתתפים, אפילו הכרות עם הדמות לא סייעה בזיהוי הזיוף. החוקרים מזהירים מפני השלכות על אמון הציבור ודורשים פיתוח דחוף של כלי איתור.
סרטוני דיפפייק של טראמפ כנשיא AI מופצים במדיה, מציגים גרסה דיגיטלית המשבחת אותו ותוקפת יריבים. המומחים מזהירים מפני השפעה על דעת הקהל לפני בחירות 2024 וערעור האמון בתקשורת. הטכנולוגיה המתקדמת מעלה דרישה לפיקוח וסימון תוכן מזויף.
סרטוני הדיפ פייק של Sora AI מחוללים מהפכה עם יכולות ריאליסטיות מפחידות. למרות הסרטונים המשופרים, מומחים מצביעים על רמזים כמו תנועות לא אנושיות ומרקמים משונים לזיהוי זיוף. במציאות הנוכחית, ספקנות ובדיקה מדוקדקת של פרטים הם הנשק העיקרי נגד תרמיות AI.
הוריקן 'מליסה' מחולל סופת סרטוני AI מזויפים - מדריך לזיהוי פייקים. במקביל, האנציקלופדיה Grokipedia של מוסק ו-xAI נחשבת לממוקדת בתוכן גזעני וטרנספובי, תוך העצמת דמותו של המייסד, ומציגה אתגר חדש לנייטרליות מידע.
פרסומות המשתמשות ב-AI ליצירת סרטונים ריאליסטים המדמים שידורי חדשות אמיתיות מהוות אתגר גובר. חברות כמו Case Connect AI משתמשות בכלים כמו Sora של OpenAI לפרסום שירותים משפטיים, כשהצופים מתקשים להבחין בין תוכן חדשותי לפרסומי. מומחים מזהירים מפני הונאות והצפת מרחב המידע בתוכן סינתטי, עם שיח גובר סביב הסדרה נדרשת.
משטרת דורסט בבריטניה מתריעה על תרמית חדשה ברשתות: הודעות עם תמונות מבוססות AI של 'חסר בית' שנכנס לבתים. לאחר מקרה של הורה מודאג שזימן משטרה לשווא, מדגישים כי זה מבזבז משאבים קריטיים. עצה לציבור: וודאו שזה לא מתיחה לפני התקשרות לשירותי החירום.
