ידיעות בינה מלאכותית בנושא DISINFORMATION
חברת Doublespeed משיקה שירות AI ליצירת דעת קהל מלאכותית באמצעות חוות טלפונים פיזיות. הטכנולוגיה מאפשרת הפצת מסרים ויראליים בטיקטוק תוך עקיפת אלגוריתמים, בעלויות של אלפי דולרים בלבד. השקעת קרן a16z מעוררת שאלות אתיות נוכח ניגוד העניינים של נשיאה, מארק אנדריסן, המכהן גם בדירקטוריון מטא.
מדינות זרות, ובראשן רוסיה, מפיצות סרטוני AI מציאותיים בפלטפורמות מדיה חברתית במטרה לערער את התמיכה המערבית באוקראינה. הסרטונים, שנוצרו בטכנולוגיות מתקדמות כמו Sora 2 של OpenAI, מציגים חיילים אוקראינים מיואשים וחסרי מוטיבציה. למרות מאמצי הפלטפורמות לסנן תוכן, הסרטונים ממשיכים להסתנן ומעוררים חששות להשלכות גיאופוליטיות משמעותיות.
דונלד טראמפ משלב הפצת דיפ-פייק מבוסס בינה מלאכותית (AI) עם האשמות שווא כלפי תוכן אותנטי כזיוף, במסגרת אסטרטגיה של 'הצפת הזירה' בדיסאינפורמציה. השיטה יוצרת 'דיבידנד שקרן' שמטשטש את האמת והשקר, ומסכנת את יסודות הדמוקרטיה. למרות אזהרות מומחים, רגולציה פדרלית נגד תוכן מזויף שנוצר באמצעות AI אינה קיימת, עקב חששות לשימוש נרחב בבחירות 2028.
מקאפי זכתה בפרס על כלי AI המגלה הונאות במקביל לשימוש שנוי במחלוקת של המפלגה הרפובליקנית בדיפ-פייק של סנאטור דמוקרטי לפרסום תקיפה. המאמר סוקר את ההתפתחויות הטכנולוגיות והאתגרים האתיים בעידן הבינה המלאכותית דרך שתי דוגמאות קיצון.
דונלד טראמפ מוביל קמפיין דיגיטלי חסר תקדים ב-Truth Social תוך שימוש נרחב בתוכן AI: סרטוני deepfake של יריבים, תמונות דמיוניות ותעתועי מדיה המעצבים נרטיב פוליטי חלופי. מומחים מזהירים מפני עיוות המציאות ושחיקת האמון במידע, בעוד הדמוקרטים מתחילים לאמץ את הטקטיקות. 84% מהאמריקאים דורשים סימון תוכן סינתטי.
כלי AI ליצירת וידאו משתפרים ביצירת סצנות קהל מציאותיות, מקשים על זיהוי זיופים ומאיימים על אמינות אירועים ציבוריים. חברות הטק מפתחות סמני מים לסימון תוכן AI, אך חסר תקן תעשייתי אחיד - וכלי הסימון הנוכחיים לא מספקים הגנה מלאה.
מחקר גרמני בשיתוף Süddeutsche Zeitung חושף כי חשיפה לאתגרי זיהוי תוכן AI מזויף העלתה ב-3% את צריכת החומרים האמינים של העיתון ושיפרה ב-1.1% את שימור המנויים לאחר חצי שנה. הממצאים מצביעים על אסטרטגיה חדשה לתעשיית החדשות: מיתוג אמינות כיתרון תחרותי בעולם רווי דיסאינפורמציה, תוך שדרוג מתמיד של יכולות סיווג התוכן.
מחקרים חושפים קמפיין דיסאינפורמציה מתוחכם שמופעל ע"י רוסיה בבחירות הקרובות במולדובה. השימוש כולל אתרי חקיינים, אלפי חשבונות מזויפים ב-TikTok, ו-AI ליצירת תוכן שמבקש לערער את השלטון הפרו-אירופאי. מולדובה הגיבה במעצרים, הקמת מרכז נגד דיסאינפורמציה, ושיתוף פעולה עם ענקיות טכנולוגיה כמו גוגל.
תופעת ה"AI Slop" - תכני AI נמוכי איכות המוצפים לרשת - מתפשטת בכל הפלטפורמות: מיוטיוב וספוטיפיי עד לויקיפדיה. התוצאה: הפצת דיסאינפורמציה, פגיעה ביוצרים אנושיים ואיום על מקורות מידע. המפתח להתגוננות: ספקנות, דיווח על תוכן מזיק ותיוג קהילתי. (63 מילים)
רשויות בצפון קרוליינה מתריעות על תמונות וסרטוני AI מזויפים של הוריקן איירין המופצים במדיה חברתית. התוכן, כולל פינויים דרמטיים שאינם קיימים, עלול להטעות תיירים ולגרום לבהלה. מומחים ממליצים להתעדכן רק דרך מקורות רשמיים כמו אתרי הרשויות ושירות מזג האוויר האמריקאי.