Deepfakes: המכשול החדש במלחמה בפייק ניוז

תעשיית Deepfakes מתוחכמת פוגעת בעיתונאים ופוליטיקאים

רשת של כ-90 חשבונות TikTok השתמשה בבינה מלאכותית ליצירת עיתונאים לטיניים מזויפים - כולל דמויות מוכרות כמו חורחה רמוס (Jorge Ramos) מ-Univision וחוסה דיאז-באלארט (José Díaz-Balart) מ-Telemundo - כדי להפיץ פייק ניוז למטרות רווח כלכלי. הדפים כללו סרטונים עם אווטרים מדומים שטענו לשטויות כמו:

• ברן טראמפ מתעמת עם האו"ם על גירוש אמו מלניה
• "חוק חטיפת ילדים" בארה"ב שמחייב עוצר לקטינים
• תיאוריות קונספירציה הקשורות לג'פרי אפסטיין ופאפי קומבס

לפי מחקרו של אלקסיוס מנזרליס מאוניברסיטת קורנל, החשבונות נוצרו במכוון לצבירת 10,000 עוקבים - הסף המינימלי להכנסות בתוכנית התגמולים של TikTok. למרות הסרת החשבונות, מנזרליס מצא עדויות למאות חשבונות דומים שנבנים למכירה בשוק אפור.

גם פוליטיקאים בסכנה: המקרה של איימי קלובצ'ר

סנאטורית איימי קלובצ'ר (Amy Klobuchar) חשפה כי התמודדה עם סרטון Deepfake ויראלי בו נראתה מבקרת באופן מגונה את מכנסיה של השחקנית סידני סוויני. הסרטון - שהתבסס על קטע מעדותה בוועדת הסנאט לפרטיות נתונים - צבר למעלה ממיליון צפיות ב-X (לשעבר טוויטר) למרות בקשותיה להסרה.

"התוכן המזויף השתמש בדמותי כדי להציג דברי שטנה שמעולם לא אמרתי", כתבה קלובצ'ר במאמר דעה בניו יורק טיימס. "אפילו כשברור שמדובר בזיוף, המראה המציאותי משאיר רושם שלילי שמחקה אמון".

הפתרונות האפשריים: חקיקה וטכנולוגיה

1. הצעת החוק NO FAKES Act: יוזמה דו-מפלגתית שתחייב פלטפורמות להסיר תוכן מזויף תוך הגנה על חופש הביטוי
2. יוזמות אירופיות: תקנות AI של האיחוד האירופי הדורשות סימון תוכן שנוצר בבינה מלאכותית, וחוק דני שמעניק זכויות יוצרים על פנים וקול
3. שיפור כללי זיהוי: TikTok טוענת כי הסירה 94% מהתוכן המניפולטיבי בצורה פרואקטיבית, אך מומחים מציינים שהטכנולוגיה מתפתחת מהר מהרגולציה

"זו בעיה המערבת טכנולוגיה, כלכלה ותרבות", מסכם מנזרליס. "ככל שיותר פלטפורמות משתלבות ביצירת בינה מלאכותית, העימות בין שקיפות לתמריצים כלכליים רק ילך ויחמיר".