ידיעות בינה מלאכותית בנושא MISINFORMATION
גוף הפיקוח על המשטרה הבריטית חוקר שימוש ב-AI ליצירת דוח מודיעיני שקרי, שהוביל לאיסור על כניסת אוהדי מכבי תל אביב למשחק. החקירה נפתחה לאחר שבדיקה עצמאית מצאה שהאיום נופח, והדבר גרם לסערה דיפלומטית ולסילוק המפקד מתפקידו בינואר.
Anthropic מטמיעה סימני מים בכל הטקסטים ש-Claude מייצר, גלובלית — לא מרצון אלא בגלל חוק ה-AI האירופי. השיטה מבוססת על טכניקה של Google, אבל מוגבלת לטקסטים ארוכים ומציגה רק סבירות, לא ודאות. מחקר מראה שאנשים לא מזהים טקסט AI וששחקנים מתוחכמים יעקפו כל סימן שניתן לזיהוי.
סרטון קמפיין של הרמטכ״ל לשעבר, גדי איזנקוט, הוסר בהוראת סולברג לאחר שהציג דמויות חיילים שנוצרו ב-AI ורקע שדמה להודעה צבאית על חללים. האירוע מעלה שאלה עקרונית על גבולות השימוש בתוכן סינתטי בקמפיינים פוליטיים בעלי אסתטיקה צבאית.
גוגל השיקה ביום חמישי כלי AI ב-Google Earth שמאפשר ליצור תמונות לוויין מותאמות אישית. בתוך 24 שעות, חוקרים ומשתמשים יצרו דיפ-פייקים של פיגועים, מחנות פליטים פיקטיביים ותחנות כוח גרעיניות — וגוגל הסירה את הכלי. האירוע חושף פער בין יכולת טכנולוגית למנגנוני הגנה, ומעלה שאלות על עתיד בדיקות ה-QA בתעשיית ה-AI.
xAI של אילון מאסק תובעת את מינסוטה בניסיון למנוע את כניסתו לתוקף של חוק ראשון בארה״ב האוסר על אפליקציות ליצירת תמונות עירום מזויפות. החוק, שנכנס לתוקף בשבת, קובע קנסות של עד חצי מיליון דולר על כל תמונה. שופט פדרלי דחה את הבקשה לעיכוב, אבל קבע דיון ל-19 באוגוסט – מה שצפוי להיות הקרב המשפטי הראשון על גבולות החקיקה בתחום ה-AI.
Meta קידמה 7,600 מודעות לאפליקציות עירום AI בפייסבוק ובאינסטגרם, תוך הפרת המדיניות שלה עצמה. המודעות הועברו על ידי שותף פרסום סיני, GatherOne. זה קרה למרות שמכירות Meta בסין הסתכמו ב-18.4 מיליארד דולר ב-2024 — מה שמעלה שאלות על היחס בין הכנסות לאכיפה.
מחקר חדש ומדאיג מתריע כי ישראל אינה ערוכה לאיומים של בינה מלאכותית על תהליך הבחירות. צ'אטבוטים מתוחכמים, מבוססי מודלי שפה גדולים, יכולים לשנות את דעתם של מצביעים ביעילות גבוהה מפרסומות מסורתיות - וזאת בעוד החוק הישראלי הרלוונטי עדיין מיושן, מ-1959, בניגוד לתקנות החדשות באיחוד האירופי.
Alphabet, Amazon ו-Meta מתכננות הוצאות של יותר מ-500 מיליארד דולר על תשתיות AI ב-2026, אבל מניית Alphabet צנחה ב-7% אחרי שתזרים המזומנים שלה הפך לשלילי לראשונה מאז 2004. המשקיעים מתחילים להטיל ספק אם המיליארדים האלה יחזירו את עצמם — ו-Wall Street כבר מפחדת מבועה.
יו"ר ועדת הבחירות, השופט נעם סולברג, הורה לשר בצלאל סמוטריץ' להסיר סרטון AI שהציג את גדי איזנקוט עם מנהיגים פלסטינים. ההחלטה, שבועות לפני הבחירות לכנסת, מחייבת מעתה סימון ברור של כל תעמולת AI, אך מומחים מפקפקים ביכולת לאכוף זאת מול שיטפון התוכן המזויף הצפוי.
שר המסחר ההודי Piyush Goyal הגיש תלונה למשטרה אחרי שסרטון deepfake נוצר מדבריו באמצעות AI. ה-FIR נרשם ב-4:35 בבוקר, וגם סרטון דומה של ראש הממשלה Modi נחשף כמזויף. הממשלה האשימה חשבונות פקיסטניים, הסירה קישורים רבים מהרשתות, וקראה לאזרחים לדווח על תכנים חשודים.
תחקיר חושף שממשלת ישראל מימנה קמפיין השפעה בארה"ב ב-45 מיליון דולר, כולל מיליוני הודעות טקסט מ-AI שהתחזו ל"חברים למען השלום" — ארגון שלא קיים באמת. את המבצע ניהל יועץ טראמפ לשעבר, וסגן הנשיא ואנס האשים את ישראל בניסיון לערער את שיחות הגרעין עם איראן.
סקר של חברת האימות Veriff חושף שרק 50% מהאמריקאים מצליחים להבחין בין תמונות אמיתיות לזיופי AI. הסימנים הישנים כמו אצבעות מעוותות נעלמו — וגם מומחי AI לא מצליחים לזהות הכל. ההמלצה: להפסיק להסתמך על העין לבד ולהשתמש בכלי זיהוי.
מודעות AI פוליטיות הופכות נפוצות יותר לקראת בחירות האמצע 2026, עם מקרים כמו מעצרו של מועמד בניו יורק. אך הבעיה האמיתית היא לא המודעות, אלא האלגוריתמים של הפלטפורמות שמחזקים מידע מטעה ומרחיקים את אמון הציבור. סקר מראה ש-85% מהאמריקנים חוששים מכך, אך הרגולציה מתקשה לעמוד בקצב.
תמונות AI מזויפות שנוצרו שעות ספורות לאחר מעצרו של ניקולס מדורו הציפו את הרשתות החברתיות וצברו עשרות מיליוני צפיות. צוותי בדיקה זיהו את הזיוף באמצעות כלים כמו SynthID של גוגל, מה שמדגיש את האתגרים במאבק בהתפשטות מידע כוזב בעידן הבינה המלאכותית.
לאחר שערוריות עבר, גוגל שדרגה את AI Overview לשיפור דיוק התשובות. למרות השיפורים, חקירה חדשה חושפת שהמערכת ממשיכה לספק מידע רפואי מטעה ומסוכן, מהמלצות שגויות לחולי סרטן ועד פרשנויות מוטעות לבדיקות רפואיות. מומחים מזהירים: טעויות אלו עלולות לסכן חיים.
המאמר בוחן כיצד אלגוריתמי AI משחזרים דפוסי שליטה היסטוריים במידע, ויוצרים קיטוב חברתי עקב אופטימיזציה לתשומת לב. הוא מציע דרכים לעיצוב מערכות שישמרו על גיוון אינטלקטואלי ורגשי בחברה הדיגיטלית.
Grok, מודל ה-AI של xAI, הפיץ מידע שגוי על הטבח בבונדי ביץ', כולל זיהוי שגוי של הגיבור האמיתי וקישורים לאירועים בלתי קשורים. כשל זה מדגיש את הסכנות בהסתמכות על בינה מלאכותית (AI) בסיקור אירועים דינמיים ואת הצורך בפיקוח קפדני יותר.
משתמשים מתקשים להבחין בין סרטוני AI לסרטונים אמיתיים. מומחים מציעים טיפים לזיהוי: בדקו אורך, פריים, הקשר והיסטוריית מפרסם, והימנעו משיתוף תכנים מפוקפקים. שיתוף כזה פוגע באמון הציבור במידע אמין.
סרטון ויראלי טוען שגופות זזות מעצמן במתב"ש, אך הוא מזויף ונוצר על ידי AI כמו Sora. כלי Hive זיהה פגמים טיפוסיים, כולל חותמות זמן מעוותות ושעונים לא תואמים. זהו דוגמה להפצת תוכן מזויף ברשתות.
תמונה של תיכון בוער בטקסס התגלתה כיצירת בינה מלאכותית, אך הספיקה לזרוע פאניקה בקהילה. המקרה מדגיש עד כמה מערכות חינוך ורשויות בעולם, כולל בישראל, אינן מוכנות לאיומי Deepfake, ומעלה צורך דחוף בפרוטוקולים רשמיים, בחינוך לספקנות דיגיטלית ובשימוש בטכנולוגיות אימות כדי למנוע כאוס ומידע כוזב.
Sora של OpenAI מייצרת סרטוני AI ריאליסטיים בצורה חסרת תקדים, ומעלה חששות כבדים מפני הפצת דיסאינפורמציה. מומחים ממליצים לבדוק חוסר עקביות בתנועה או בתאורה, לאמת מקורות ולהיעזר בכלים של פלטפורמות לאימות תוכן. נגישות הכלי לציבור הרחב הופכת את האתגר לדחוף במיוחד.
סרטוני AI מזויפים מטעים גופי תקשורת מובילים וגולשים: פוקס ניוז וניוזמקס שידרו דיווחים המבוססים על סרטונים שנוצרו בבינה מלאכותית, בעוד סקיצה קומית מטיקטוק גורמת לבלבול ברשתות. מומחה AI בכיר ממטא עלול גם הוא ליפול בפח. האתגר גדל כשטראמפ מציע להשתמש בטענת "זיוף AI" כאסטרטגיה פוליטית.
הוריקן 'מליסה' מחולל סופת סרטוני AI מזויפים - מדריך לזיהוי פייקים. במקביל, האנציקלופדיה Grokipedia של מוסק ו-xAI נחשבת לממוקדת בתוכן גזעני וטרנספובי, תוך העצמת דמותו של המייסד, ומציגה אתגר חדש לנייטרליות מידע.
גרוקיפדיה, מתחרה חדשה לוויקיפדיה בהנהגת אילון מאסק, מפיצה מידע כוזב התומך בנרטיבים ימניים קיצוניים - כולל טענות לא מבוססות על הקשר בין פורנוגרפיה לאיידס ומגמת עלייה בטרנסג'נדרים. הדיווח חושף חששות מפני הטיות פוליטיות במערכות AI.
טרנד ויראלי ב-TikTok שליחת תמונות AI מרשימות של "פורץ חסר בית" גורמת למשטרות בארה"ב להזהיר על בזבוז משאבים וסכנת חיים. מקרים של הגעה מהירה של ניידות לחילוץ מדומה הובילו לאזהרות על העמדה לדין פלילי. הרשויות מדגישות גם את הפגיעה בחסרי בית עצמם דרך סטריאוטיפים מזיקים.
כלי AI מנוצלים ליצירת סרטונים גזעניים המציגים ערים אירופיות עתידיות כ'מוסלמיות' ודיסטופיות. פוליטיקאים ימניים קיצוניים משתמשים בהם לקידום תאוריות קונספירציה כמו 'החלפת העמים'. למרות נהלי הפלטפורמות, תוכן זה צובר מיליוני צפיות. מומחים מזהירים מפני הסלמת שנאה ואלימות עקב פערי אכיפה.
פרסומות המשתמשות ב-AI ליצירת סרטונים ריאליסטים המדמים שידורי חדשות אמיתיות מהוות אתגר גובר. חברות כמו Case Connect AI משתמשות בכלים כמו Sora של OpenAI לפרסום שירותים משפטיים, כשהצופים מתקשים להבחין בין תוכן חדשותי לפרסומי. מומחים מזהירים מפני הונאות והצפת מרחב המידע בתוכן סינתטי, עם שיח גובר סביב הסדרה נדרשת.
משטרת דורסט בבריטניה מתריעה על תרמית חדשה ברשתות: הודעות עם תמונות מבוססות AI של 'חסר בית' שנכנס לבתים. לאחר מקרה של הורה מודאג שזימן משטרה לשווא, מדגישים כי זה מבזבז משאבים קריטיים. עצה לציבור: וודאו שזה לא מתיחה לפני התקשרות לשירותי החירום.
כלי AI ליצירת וידאו משתפרים ביצירת סצנות קהל מציאותיות, מקשים על זיהוי זיופים ומאיימים על אמינות אירועים ציבוריים. חברות הטק מפתחות סמני מים לסימון תוכן AI, אך חסר תקן תעשייתי אחיד - וכלי הסימון הנוכחיים לא מספקים הגנה מלאה.
מחקר גרמני בשיתוף Süddeutsche Zeitung חושף כי חשיפה לאתגרי זיהוי תוכן AI מזויף העלתה ב-3% את צריכת החומרים האמינים של העיתון ושיפרה ב-1.1% את שימור המנויים לאחר חצי שנה. הממצאים מצביעים על אסטרטגיה חדשה לתעשיית החדשות: מיתוג אמינות כיתרון תחרותי בעולם רווי דיסאינפורמציה, תוך שדרוג מתמיד של יכולות סיווג התוכן.
