ידיעות בינה מלאכותית בנושא DEEPFAKE
בפריימריז הדמוקרטי למושב בסנאט ממישיגן, AI ו-data centers הפכו לנושא מרכזי. המועמד הפרוגרסיבי Abdul El-Sayed טוען שבוחרים מעלים את הנושא בכל מפגש, בעוד חברת הקונגרס Haley Stevens מדגישה הגנה על משרות ומניעת עליית עלויות. התוצאות יקבעו אם פחדים מטכנולוגיה הם כוח אלקטורלי בארצות הברית.
בית המשפט העליון של בומביי הוציא צו זמני המגן על השחקנית פריטי זינטה מפני דיפפייסים והורה ל-Google, Meta ו-X להסיר כ-275 קישורים מפרים בתוך 72 שעות. ההחלטה מכירה בהפרת זכויות אישיות ומצטרפת לגל פסיקות דומות בהודו, מה שמדגיש את הלחץ על פלטפורמות AI למנוע שימוש לרעה.
הונאות רומנטיות עם AI מדמות נסיכים וגובות כסף מקורבנות. במקרה אחד, עובדת פיליפינית הפסידה חסכון של שנה — כ-1,600 דולר — כשארגון פשעני ניגרי עומד מאחורי הזיוף. טכנולוגיית deepfake הפכה את השיחות לממש אותנטיות, מה שמגביר את הסיכונים לכולם.
טכנולוגיית Deepfake מערערת את האמון בראיות דיגיטליות בבתי המשפט, וגורמת להקשחת דרישות האימות. בפרט, בתי המשפט בישראל דורשים כעת קבצים מקוריים, נתוני מסגרת ותצהירים מפורטים – מגמה שמשפיעה על תיקים אזרחיים ופליליים כאחד.
טראמפ פרסם סרטון AI ברשת Truth Social שבו הוא מוצג כרופא ש"מרפא" ידוענים ביקורתיים מ"Trump Derangement Syndrome" פיקטיבי. בין המוצגים: De Niro, Goldberg, O'Donnell ו-Roberts. הסרטון מצטרף לשורת תכני AI שנויים במחלוקת ששיתף הנשיא בעבר.
תמונות AI מזויפות שנוצרו שעות ספורות לאחר מעצרו של ניקולס מדורו הציפו את הרשתות החברתיות וצברו עשרות מיליוני צפיות. צוותי בדיקה זיהו את הזיוף באמצעות כלים כמו SynthID של גוגל, מה שמדגיש את האתגרים במאבק בהתפשטות מידע כוזב בעידן הבינה המלאכותית.
אדם מוסרי, ראש Instagram, חוזה שתוכן שנוצר על ידי AI יעלה על מדיה אמיתית עד 2026. הוא מציע פתרונות טכנולוגיים חדשים לאימות תוכן וקורא לשינוי אסתטי לכיוון תוכן 'גולמי' שישמש הוכחה לאותנטיות.
זאב פרבמן, מנכ"ל Lightricks, מצביע על הפרדוקס בעידן ה-AI: יצירת דיפ פייק הפכה נגישה להמונים, אך במקביל עולה מודעות הציבור לזיופים. החברה משחררת מודל קוד פתוח חדש לווידאו-אודיו, בזמן שאנימטורים במזרח עלולים להיפגע – בעוד אולפני המערב ירוויחו מיכולות הייצור החדשות.
מחקר חדש מגלה שמודלי AI יוצרים פנים היפר-ריאליסטיות שהמוח האנושי מתקשה לזהות. אפילו 'מזהים-על' (Super Recognizers) זיהו נכונה רק 41% מהדמויות, והציבור הרחב - 30% בלבד. הדרכה בת 5 דקות שיפרה את הזיהוי ל-64% ו-51% בהתאמה. הממצאים מעלים חששות משמעותיים לגבי זיוף זהויות ודיסאינפורמציה.
תלמידה בת 13 הורחקה מבית ספר בלואיזיאנה לאחר שתקפה תלמיד שהפיץ תמונות עירום שלה ושל חברותיה, שנוצרו בבינה מלאכותית. למרות פניות לצוות בית הספר ולשריף, המפיצים לא נענשו תחילה. הנערה פיתחה דיכאון ונזקקה לטיפול נפשי. רק לאחר לחץ ציבורי, שני תלמידים הואשמו בפלילים. המקרה חשף כשל מערכתי בהגנה מפני פשעי AI.
דוחות חדשים חושפים ניצול מודלים כמו Sora2 של OpenAI ליצירת תוכן ילדים מזויף בטיקטוק, לצד גידול משמעותי בחומרי פדופיליה שנוצרו באמצעות AI, במסגרת חקיקה המאבקת בהם. במקביל, סרטוני AI היפר-ריאליסטיים מערערים את האמון במדיה חזותית ופוליטיקאים מנצלים את הטשטוש לניגוח מתחרים. ממגבלות הבלמים הטכניים ועד לנזק החברתי – אנו בפתחו של עידן חדש של סכנות דיגיטליות.
תלמידה בת 13 הושעתה מבית ספר בלואיזיאנה לאחר שתקפה תלמיד שהפיץ תמונות עירום מבוימות שלה באמצעות AI. אירוע זה, שחשף קשיים בהתמודדות בית הספר עם האיום הדיגיטלי, הוביל להרחקתה ולפגיעה בפעילויותיה החברתיות, בעוד הבנים המעורבים הואשמו פלילית. הפרשה מדגישה כשל מערכתי בטיפול בבריונות סייבר מתקדמת.
דוח ה-ABA מזהיר כי בינה מלאכותית בבתי המשפט עלולה להוביל לזיוף ראיות, טיעונים שגויים ואי-אמינות. לצד הפוטנציאל לייעול, האיגוד קורא להנחיות ברורות לשימוש אחראי בטכנולוגיה.
עובד בחברת Arup העביר 25 מיליון דולר לחשבונות בהונג קונג לאחר שנפל קורבן לשיחת וידאו מזויפת עם דמויות Deepfake של בכירי החברה. תקרית זו ממחישה את העלייה הדרמטית בהונאות מבוססות בינה מלאכותית, עם זינוק של 3,000% בהיקפן מאז 2023, ומצביעה על סכנה חדשה: ניצול סוכני AI פנים-ארגוניים כפרצות אבטחה.
חוקרים ישראלים פיתחו מערכת AI שיודעת לזהות תמונות וסרטוני AI בדיוק של 90%. המערכת תוצג בכנס ICCV 2025 ומשתמשת במודל רב-מצבי כדי להילחם בתוכן פוגעני ברשתות. ניתוח מראה ש-14% מסרטוני ה-AI מפרים את כללי הקהילה, בעיקר בהקשר של אלימות וטרור.
מדינות זרות, ובראשן רוסיה, מפיצות סרטוני AI מציאותיים בפלטפורמות מדיה חברתית במטרה לערער את התמיכה המערבית באוקראינה. הסרטונים, שנוצרו בטכנולוגיות מתקדמות כמו Sora 2 של OpenAI, מציגים חיילים אוקראינים מיואשים וחסרי מוטיבציה. למרות מאמצי הפלטפורמות לסנן תוכן, הסרטונים ממשיכים להסתנן ומעוררים חששות להשלכות גיאופוליטיות משמעותיות.
התחזות מבוססת AI ללהקת King Gizzard & the Lizard Wizard שרדה בספוטיפיי במשך שבועות תחת שם דומה, למרות מדיניות הפלטפורמה נגד חיקוי אמנים. האירוע מדגיש ליקויים מתמשכים בזיהוי תוכן סינתטי בפלטפורמות סטרימינג, במיוחד בהקשר לאמנים שהסירו את תוכנם במחאה.
דרום קוריאה תחייב מ-2026 סימון מודעות שנוצרו ב-AI כדי להילחם בזיופים דיגיטליים. התקנות כוללות קנסות, אחריות לפלטפורמות ומערכי פיקוח חדשים. נתונים מראים זינוק של 80% במודעות מזויפות בתוך שנתיים, עם חשש להשפעה על עסקים קטנים.
הונאות AI מתקדמות פוגעות בעובדים באמצעות שיבוט קולי של מנהלים ובצרכנים דרך אתרי קניות מזויפים. מומחים ממליצים על אימות דו-שלבי, הימנעות מתגובות אימפולסיביות לשיחות דחופות ושימוש בכלים כמו Scamio לזיהוי תרמיות. פעילות ערה בעונת החגים מגבירה את הסיכונים.
מושל פלורידה רון דה-סנטיס מציג תוכנית מקיפה לוויסות AI הכוללת הגנה מפני דיפ פייקים, פיקוח על אינטראקציות ילדים עם בוטים והגבלות אקולוגיות על מרכזי נתונים - בניגוד מובהק לגישה הפדרלית הקוראת לרגולציה אחידה.
חברת הסייבר הישראלית Imper.ai גייסה 28 מיליון דולר לפיתוח טכנולוגיה ראשונה מסוגה למניעת התחזות ודיפ פייק בזמן אמת. המייסדים, בוגרי 8200 ומובייליי, פיתחו גישה שמנתחת מטא-דאטה בלתי ניתן לזיוף בפלטפורמות כמו Zoom ו-Slack במקום לנסות לאתר חריגות בתוכן עצמו.
טיזר ויראלי לפודקאסט WTF Is של ניקיל קאמת' ובו אלון מאסק עורר חשדות לשימוש ב-AI. Grok של xAI קבע: מורפינג פנים לא טבעי מצביע על יצירה מלאכותית, למרות ספקולציות לגבי פגישה אמיתית.
משתמשים מתקשים להבחין בין סרטוני AI לסרטונים אמיתיים. מומחים מציעים טיפים לזיהוי: בדקו אורך, פריים, הקשר והיסטוריית מפרסם, והימנעו משיתוף תכנים מפוקפקים. שיתוף כזה פוגע באמון הציבור במידע אמין.
הצעת חוק חדשה בארה"ב, 'AI Fraud Deterrence Act', שהוצגה על ידי חברי הקונגרס Ted Lieu ו-Neal Dunn, תכפיל את העונשים על הונאה באמצעות AI ותפליל חיקוי פקידי ממשל באמצעות דיפפייק, למעט מקרים של סאטירה. זאת כתגובה למקרים כמו חיקוי Susie Wiles ו-Marco Rubio.
סרטון ויראלי טוען שגופות זזות מעצמן במתב"ש, אך הוא מזויף ונוצר על ידי AI כמו Sora. כלי Hive זיהה פגמים טיפוסיים, כולל חותמות זמן מעוותות ושעונים לא תואמים. זהו דוגמה להפצת תוכן מזויף ברשתות.
תמונה של תיכון בוער בטקסס התגלתה כיצירת בינה מלאכותית, אך הספיקה לזרוע פאניקה בקהילה. המקרה מדגיש עד כמה מערכות חינוך ורשויות בעולם, כולל בישראל, אינן מוכנות לאיומי Deepfake, ומעלה צורך דחוף בפרוטוקולים רשמיים, בחינוך לספקנות דיגיטלית ובשימוש בטכנולוגיות אימות כדי למנוע כאוס ומידע כוזב.
Sora של OpenAI מייצרת סרטוני AI ריאליסטיים בצורה חסרת תקדים, ומעלה חששות כבדים מפני הפצת דיסאינפורמציה. מומחים ממליצים לבדוק חוסר עקביות בתנועה או בתאורה, לאמת מקורות ולהיעזר בכלים של פלטפורמות לאימות תוכן. נגישות הכלי לציבור הרחב הופכת את האתגר לדחוף במיוחד.
מחקר בינלאומי עם השתתפות ישראלי מגלה כי תמונות AI של אנשים מוכרים (כולל סלבריטאים) בלתי ניתנות להבחנה מצילומים אמיתיים. במבחנים עם אלפי משתתפים, אפילו הכרות עם הדמות לא סייעה בזיהוי הזיוף. החוקרים מזהירים מפני השלכות על אמון הציבור ודורשים פיתוח דחוף של כלי איתור.
סרטוני דיפפייק של טראמפ כנשיא AI מופצים במדיה, מציגים גרסה דיגיטלית המשבחת אותו ותוקפת יריבים. המומחים מזהירים מפני השפעה על דעת הקהל לפני בחירות 2024 וערעור האמון בתקשורת. הטכנולוגיה המתקדמת מעלה דרישה לפיקוח וסימון תוכן מזויף.
דונלד טראמפ משלב הפצת דיפ-פייק מבוסס בינה מלאכותית (AI) עם האשמות שווא כלפי תוכן אותנטי כזיוף, במסגרת אסטרטגיה של 'הצפת הזירה' בדיסאינפורמציה. השיטה יוצרת 'דיבידנד שקרן' שמטשטש את האמת והשקר, ומסכנת את יסודות הדמוקרטיה. למרות אזהרות מומחים, רגולציה פדרלית נגד תוכן מזויף שנוצר באמצעות AI אינה קיימת, עקב חששות לשימוש נרחב בבחירות 2028.
