ידיעות בינה מלאכותית בנושא DISINFORMATION
X טוענת שמצאה חוות בוטים סינית עם 200,000 חשבונות, ו-200 מהם קידמו התנגדות למרכזי AI בארה״ב. החקירה מעלה חששות מפני התערבות זרה בדיון על מדיניות AI, על רקע סקר שמראה ש-61% מהאמריקאים מתנגדים לפרויקטים חדשים באזורם.
OpenAI חשפה קמפיין רוסי שהשתמש ב-ChatGPT כדי לקדם מכון מחקר ישראלי פיקטיבי בשם IBI. הקמפיין, שהשפעתו הייתה מוגבלת, ממחיש איך AI יכול לשמש לבניית תשתית הסברה מזויפת עם תוכן אקדמי מועתק ומדדים פיקטיביים, ומעלה שאלות על שימוש לרעה בכלים שאתם מפתחים.
OpenAI חסמה חשבונות ChatGPT ששימשו במבצע השפעה רוסי, שכלל הקמת מכון מחקר ״ישראלי״ מזויף עם מאמרים מועתקים ומדד ריבונות מוטה. המבצע, שהחשיפה אליו הייתה מוגבלת, מדגים כיצד AI מאיץ קמפיינים של דיסאינפורמציה – עם השלכות ישירות על מערכת הבחירות הקרובה בישראל.
ממשלת ישראל יצרה מכון מחקר אמריקאי פיקטיבי שפרסם 124 מאמרים פרו-ישראליים — כולם הופקו על ידי AI — כדי להשפיע על הפלטים של צ'אטבוטים כמו ChatGPT. הפרויקט מומן בעשרות מיליוני דולרים, אבל סקרים מראים שהדימוי האמריקאי של ישראל דווקא ממשיך להידרדר.
מסמכים שהוגשו למשרד המשפטים האמריקאי חושפים קמפיין ממשלתי ישראלי להטות תשובות צ'אטבוטים: מכון מחקר פיקטיבי בשם Hanover Institute כבר מצוטט על ידי ChatGPT ו-Perplexity. התקציב: 100,000 דולר באמצעות חברת היח״צ Havas.
תחקיר 'וול סטריט ג'ורנל' חושף שישראל הוציאה למעלה מ-45 מיליון דולר על קמפיין AI שכלל מיליוני הודעות טקסט אישיות ונסיונות להשפיע על תשובות של מודלים כמו ChatGPT, בניסיון לשפר את תדמיתה בארה"ב. המבצע, בהובלת יועץ טראמפ לשעבר, מגיע על רקע ירידה חדה בתמיכה האמריקנית ומעורר ביקורת על שימוש בטכנולוגיה להשפעה פוליטית.
האו״ם פרסם הערכה מדעית ראשונה ל-AI, ומזהיר מפני עלייה באי-שוויון עולמי. הדו״ח מצביע על כך ש-90% מכוח המחשוב מרוכז בארה״ב וסין, וחלון ההזדמנויות להסדרה גלובלית הולך ונסגר. הממצאים ישפיעו על הדיון בז׳נבה ועשויים לעצב את עתיד הרגולציה בתעשייה.
חברת Doublespeed משיקה שירות AI ליצירת דעת קהל מלאכותית באמצעות חוות טלפונים פיזיות. הטכנולוגיה מאפשרת הפצת מסרים ויראליים בטיקטוק תוך עקיפת אלגוריתמים, בעלויות של אלפי דולרים בלבד. השקעת קרן a16z מעוררת שאלות אתיות נוכח ניגוד העניינים של נשיאה, מארק אנדריסן, המכהן גם בדירקטוריון מטא.
מדינות זרות, ובראשן רוסיה, מפיצות סרטוני AI מציאותיים בפלטפורמות מדיה חברתית במטרה לערער את התמיכה המערבית באוקראינה. הסרטונים, שנוצרו בטכנולוגיות מתקדמות כמו Sora 2 של OpenAI, מציגים חיילים אוקראינים מיואשים וחסרי מוטיבציה. למרות מאמצי הפלטפורמות לסנן תוכן, הסרטונים ממשיכים להסתנן ומעוררים חששות להשלכות גיאופוליטיות משמעותיות.
דונלד טראמפ משלב הפצת דיפ-פייק מבוסס בינה מלאכותית (AI) עם האשמות שווא כלפי תוכן אותנטי כזיוף, במסגרת אסטרטגיה של 'הצפת הזירה' בדיסאינפורמציה. השיטה יוצרת 'דיבידנד שקרן' שמטשטש את האמת והשקר, ומסכנת את יסודות הדמוקרטיה. למרות אזהרות מומחים, רגולציה פדרלית נגד תוכן מזויף שנוצר באמצעות AI אינה קיימת, עקב חששות לשימוש נרחב בבחירות 2028.
מקאפי זכתה בפרס על כלי AI המגלה הונאות במקביל לשימוש שנוי במחלוקת של המפלגה הרפובליקנית בדיפ-פייק של סנאטור דמוקרטי לפרסום תקיפה. המאמר סוקר את ההתפתחויות הטכנולוגיות והאתגרים האתיים בעידן הבינה המלאכותית דרך שתי דוגמאות קיצון.
דונלד טראמפ מוביל קמפיין דיגיטלי חסר תקדים ב-Truth Social תוך שימוש נרחב בתוכן AI: סרטוני deepfake של יריבים, תמונות דמיוניות ותעתועי מדיה המעצבים נרטיב פוליטי חלופי. מומחים מזהירים מפני עיוות המציאות ושחיקת האמון במידע, בעוד הדמוקרטים מתחילים לאמץ את הטקטיקות. 84% מהאמריקאים דורשים סימון תוכן סינתטי.
כלי AI ליצירת וידאו משתפרים ביצירת סצנות קהל מציאותיות, מקשים על זיהוי זיופים ומאיימים על אמינות אירועים ציבוריים. חברות הטק מפתחות סמני מים לסימון תוכן AI, אך חסר תקן תעשייתי אחיד - וכלי הסימון הנוכחיים לא מספקים הגנה מלאה.
מחקר גרמני בשיתוף Süddeutsche Zeitung חושף כי חשיפה לאתגרי זיהוי תוכן AI מזויף העלתה ב-3% את צריכת החומרים האמינים של העיתון ושיפרה ב-1.1% את שימור המנויים לאחר חצי שנה. הממצאים מצביעים על אסטרטגיה חדשה לתעשיית החדשות: מיתוג אמינות כיתרון תחרותי בעולם רווי דיסאינפורמציה, תוך שדרוג מתמיד של יכולות סיווג התוכן.
מחקרים חושפים קמפיין דיסאינפורמציה מתוחכם שמופעל ע"י רוסיה בבחירות הקרובות במולדובה. השימוש כולל אתרי חקיינים, אלפי חשבונות מזויפים ב-TikTok, ו-AI ליצירת תוכן שמבקש לערער את השלטון הפרו-אירופאי. מולדובה הגיבה במעצרים, הקמת מרכז נגד דיסאינפורמציה, ושיתוף פעולה עם ענקיות טכנולוגיה כמו גוגל.
תופעת ה"AI Slop" - תכני AI נמוכי איכות המוצפים לרשת - מתפשטת בכל הפלטפורמות: מיוטיוב וספוטיפיי עד לויקיפדיה. התוצאה: הפצת דיסאינפורמציה, פגיעה ביוצרים אנושיים ואיום על מקורות מידע. המפתח להתגוננות: ספקנות, דיווח על תוכן מזיק ותיוג קהילתי. (63 מילים)
רשויות בצפון קרוליינה מתריעות על תמונות וסרטוני AI מזויפים של הוריקן איירין המופצים במדיה חברתית. התוכן, כולל פינויים דרמטיים שאינם קיימים, עלול להטעות תיירים ולגרום לבהלה. מומחים ממליצים להתעדכן רק דרך מקורות רשמיים כמו אתרי הרשויות ושירות מזג האוויר האמריקאי.
