כלי בינה מלאכותית מנוצלים ליצירת סרטונים גזעניים על ערים באירופה
כלי AI מנוצלים ליצירת סרטונים גזעניים המציגים ערים אירופיות עתידיות כ'מוסלמיות' ודיסטופיות. פוליטיקאים ימניים קיצוניים משתמשים בהם לקידום תאוריות קונספירציה כמו 'החלפת העמים'. למרות נהלי הפלטפורמות, תוכן זה צובר מיליוני צפיות. מומחים מזהירים מפני הסלמת שנאה ואלימות עקב פערי אכיפה.
כלי AI הפכו לכלי נשק בידי גורמי ימין קיצוני
כלי בינה מלאכותית כמו ChatGPT ו-Gemini מנוצלים כיום ליצירת סרטונים גזעניים המציגים חזונות דיסטופיים של ערים אירופיות כמו לונדון, בריסל ומילאנו. הסרטונים - המופצים במיליוני צפיות - מציגים ערים "מוסלמיות" עם מסגדים דומיננטיים, רחובות מוצפים בפסולת ואוכלוסייה לבנה שמוחלפת במהגרים.
הפוליטיקה של הפחד
- מנהיגי ימין קיצוני כגון טומי רובינסון (בריטניה) ו-חירט וילדרס (הולנד) משתמשים בתוצרי ה-AI לקידום נרטיבים גזעניים
- חבר הפרלמנט הבלגי סם ואן רוי וחברת הפרלמנט האירופי סילביה סרדונה מאיטליה שיתפו סרטונים דומים
- הסרטונים מנציחים את תאוריית 'החלפת העמים' - עלילה אנטי-מוסלמית ואנטישמית הטוענת להחלפה מכוונת של האוכלוסייה הלבנה
כיצד זה עובד בפועל?
למרות מגבלות בתוכנות ה-AI:
- יוצרים משתמשים בפרומפטים מניפולטיביים כמו "הצג את לונדון בשנת 2050 כעיר מוסלמית מדכאת"
- חלק מהגנרטורים (כגון VEO 3) מאפשרים יצירת תוכן גזעני בקלות יחסית
- היוצרים מציעים קורסים בתשלום ליצירת סרטונים דומים
תגובת הפלטפורמות
- טיקטוק חסמה חשבונות יוצרים בולטים
- X (טוויטר) תחת אילון מאסק נמצאת בביקורת על הגברת הפצת השנאה
- מומחים כמו ד"ר אימראן אחמד מהמרכז למאבק בשנאה דיגיטלית מצביעים על כשל מערכתי במנגנוני הבקרה
"אנחנו חיים בחברה שבה שנאה היא רווחית" - ד"ר ביאטריס לופס בוארקה, LSE
ההשלכות המסוכנות
לפי חוקרי LSE, תוכן זה:
- מעצים סטראוטיפים מסוכנים
- עלול להצית אלימות
- שימש בעבר כהצדקה לפיגועי טרור
למרות שהכלים המקוריים נועדו ליצירת תוכן אובייקטיבי - הניצול הלוחמני שלהם מדגיש את האתגר האתי של טכנולוגיות AI מתקדמות.