מחקר: 981 שירי AI רוסיים הציפו את ספוטיפיי ויוטיוב
חוקרים מ-Terrecon מצאו 981 שירי תעמולה רוסיים שנוצרו עם כלי AI כמו Suno ו-Udio. השירים מתארים את הצבא הרוסי בגבורה, מזלזלים באוקראינים וצברו מיליוני האזנות בספוטיפיי, יוטיוב ו-SoundCloud – תוך עקיפת מערכות הסינון. הפלטפורמות מתקשות להתמודד עם הגל.
דמיינו שאתם מפעילים פלייליסט בספוטיפיי, ופתאום עולים שירי רוק כבד שמשבחים את הצבא הרוסי ומזלזלים באוקראינים. זו לא תקלה – זו לוחמה פסיכולוגית דיגיטלית. מחקר חדש חושף איך מכונת התעמולה הרוסית מציפה כעת את פלטפורמות הסטרימינג ביצירות AI, והן מתקשות להתמודד.
חוקרים מחברת המחקר האוקראינית Terrecon זיהו 981 שירי תעמולה פטריוטיים ברוסית שנוצרו בשנתיים האחרונות בעזרת כלי AI ליצירת מוזיקה. הכלים המרכזיים? Suno ו-Udio, שירותים אמריקניים שמאפשרים ליצור שירים מטקסט בלחיצת כפתור. התוצרים – מבלדות סנטימנטליות ועד טראש מטאל – מוקדשים להאדרת הצבא הרוסי ומציגים את הפלישה לאוקראינה כ"הגנה הכרחית".
איך הם עוברים את הסינון?
הנתון המדאיג: מיליוני האזנות. השירים האלה התפרסמו בפלטפורמות כמו Spotify, SoundCloud ו-YouTube, תוך עקיפת מערכות סינון אוטומטיות. למשל, כותרות ותיאורים שציינו במפורש "תעמולת מלחמה רוסית" לא נחסמו ב-YouTube או ב-SoundCloud. הפלטפורמות נאבקות לזהות ביטויי שנאה בשפות זרות, וגם כשהן מצליחות – הן נוקטות בגישות שונות. Spotify, למשל, החלה לאחרונה לסמן שירי AI ככאלה ולא לקדם אותם, אך לא בהכרח להסירם.
קצת היסטוריה, הרבה יעילות
לרוסיה מסורת ארוכה בקידום פטריוטיות דרך מוזיקה, מימי מלחמת העולם השנייה. אבל מה שפעם דרש כותבים, מפיקים ונגנים – היום דורש הזנת טקסט פשוטה. "יצירת שיר באפליקציית AI קלה, מהירה וזולה בהרבה", כותבים חוקרי Terrecon. הפלטפורמות, מנגד, מפגרות במרוץ: מדיניות האכיפה שלהן נגד תכני שנאה לא תואמת את קצב הייצור של ה-AI.
למה זה חשוב לנו?
מעבר למלחמה באוקראינה, זו דוגמה חיה לאופן שבו כלי AI מערערים את היכולת להבחין בין תוכן אותנטי לתעמולה. הפלטפורמות שאנחנו מכירים ומשתמשים בהן – Spotify, YouTube – הופכות, בין אם ברצון או לא, לפלטפורמות להפצת קמפיין תודעתי זר. המחקר מציג אתגר ענק לחברות הטכנולוגיה: איך מפקחים על מיליוני יצירות AI חדשות, כשלכל אחת מהן יש פוטנציאל להיות נשק בלוחמה פסיכולוגית?
והנה האירוניה: הכלים האמריקניים שמשמשים ליצירת המוזיקה הזו הם בדיוק מה שפוטין היה רוצה לנטרל בזירה הפוליטית. בינתיים, הם משרתים אותו מצוין בזירה התרבותית.