Deepfakes פוגעים בעיתונאים ופוליטיקאים: הדחיפות בחקיקה חדשה
רשת חשבונות TikTok השתמשה ב-AI ליצירת עיתונאים מזויפים שהפיצו פייק ניוז בספרדית, כנראה למטרות רווח. במקביל, סנאטורית ארה"ב נחשפה לסרטון Deepfake של עצמה שהפך ויראלי. מומחים וקובעי מדיניות קוראים לחקיקת חוקים חדשים שיגנו על אזרחים מפני שימוש לא מורשה בדמותם, בדגש על תיוג חובה והורדת תוכן מזויף.
רשת TikTok משתמשת ב-Deeepfakes כדי לפגוע בעיתונאים לטינים
חוקרים חשפו רשת של כ-90 חשבונות TikTok שהשתמשו בינה מלאכותית ליצירת דמויות מזויפות של עיתונאים בכירים דוברי ספרדית, בהם חורחה ראמוס מ-Univision וחוזה דיאז-בלארט מ-Telemundo. החשבונות הפיצו ידיעות כוזבות על הגירה, תיאוריות קשר פוליטיות ואף 'חוק פיקטיבי' שהתיר חטיפת ילדים בארה"ב. לפי מחקר של אוניברסיטת קורנל, המטרה הייתה צבירת 10,000 עוקבים להתניית חשבונות - הסף המינימלי למונטיזציה בפלטפורמה.
דמויות ה-AI שיחזרו את מראם וקולם של העיתונאים ברמת ריאליזם משתנה, כשחלק מהצופים האמינו לתוכן המזויף. "מדובר בגניבה של הקול, המראה והאמון שבניתי עם הקהל במשך עשורים", אמר אנריקה אסוודו מערוץ Televisa.
TikTok הודיעה על השבתת החשבונות בהתאם למדיניותה נגד תוכן מטעה, אך החוקר אלקסיוס מנטזרליס מצא כי חשבונות חדשים צצים באופן קבוע - חלקם נמכרים בקבוצות טלגראס בכ-55 דולר לחשבון מונטיזזי.
הסנאטורית איימי קלובאשר פוגשת את ה-Deepfake של עצמה
במאמר דעה בניו יורק טיימס, חשפה הסנאטורית הדמוקרטית כי נתקלה בסרטון Deepfake ויראלי שבו דמות AI מזויפת שלה משמיעה התבטאויות גסות נגד השחקנית סידני סוויני. הסרטון עובד מתוך צילומי שימוע אמיתי בסנאט בו השתתפה.
"זה נשמע כמוני - אך זו מעולם לא הייתי", כתבה קלובאשר, וציינה כי למרות הזיוף הברור, מחקרים מראים שגם חשיפה לתוכן מזויף משפיעה על תפיסת הציבור. הפלטפורמות הגיבו באופן לא עקבי:
- TikTok הסיר את הסרטון
- Meta (פייסבוק) סימנה את התוכן כ-AI
- X (טוויטר) סירבה לפעול או לתייג, והציעה להוסיף "הערת קהילה"
הפתרונות הנדרשים: מחקיקה ועד מודעות ציבורית
קלובאשר ועמיתיה חותרים לקדם את חוק NO FAKES שיעניק לאזרחים:
- זכות לדרוש הסרת סרטוני Deepfake עם דמותם
- הגנות חוקיות מפני שימוש לא מסחרי בדמות או קול
- חריגים להגנות חופש הביטוי על פי התיקון הראשון
הסנאטורית הדגישה גם את הצורך בתיוג חובה לתוכן שנוצר ב-AI, בדומה לרגולציית האיחוד האירופי המחייבת סימון תוכן מבוסס-למידת מכונה. "עם AI, הטכנולוגיה הקדימה את החוק - וזה חייב להשתנות לפני שתמונת Deepfake של נשיא תצית מלחמה", הזהירה.
"האתגר אינו טכני בלבד", מסכם המחקר מקורנל, "אלא קשור בכלכלת תשומת הלב: יוצרי תוכן ימשיכו לבחור נושאים סנסציוניים עם פוטנציאל ויראלי - כל עוד אין מחסום חוקי או טכנולוגי יעיל".
מקורות
