Deepfakes במתקפה: בין פייק ניוז בטיקטוק למאבק חקיקתי בארה״ב

רשתות טיקטוק מפיצות פייק ניוז עם עיתונאים מלאכותיים

רשת של 88 חשבונות טיקטוק השתמשה ב-דמויות AI גנריות של פרשנים לטיניים בולטים כמו חורחה ראמוס (Jorge Ramos) וחוסה דיאס-בלארט (José Díaz-Balart) כדי להפיץ ידיעות כוזבות בנושאי הגירה, קונספירציות פוליטיות וסיפורים בדיוניים כמו επίθεση ראשתנים או גזירת עוצר לילדים. הפרסומים, שחלקם יצרו בלבול כבד ביעד׃ קהילות דוברות ספרדית בארה״ב, הוסרו לבסוף ע״י פלטפורמת הטיקטוק.

אלכסיוס מנצרליס מאוניברסיטת קורנל, שגילה את הרשת, מציין שמטרת העלילה הייתה פיננסית: צבירת 10,000 עוקבים הדרושים להפיכת החשבונות ל״רווחיים״ במסגרת תוכנית התגמולים של טיקטוק. החשבונות המוניטיזיים נמכרים בהמשך תמורת עשרות דולרים לקבוצות המעוניינות לעבור לנישות תוכן אחרות.

הסנאטורית קלובאשר: ״חוויתי האקינג של הזהות שלי״

במקביל, הסנאטורית הדמוקרטית איימי קלובאשר חשפה כי הופתעה לגלות סרטון deepfake viral שלה שבו היא מבקרת באופן גס את המראה החיצוני של השחקנית סידני סוויני. הסרטון, שנוצר מתוך קטע וידאו אמיתי מהופעתה בוועדה בסנאט, כלל אמירות פוגעניות שמעולם לא נאמרו.

למרות בקשותיה של קלובאשר, פלטפורמת X (טוויטר) סירבה להסיר את התוכן או לסמנו כ-AI גנריטיבי - בעוד טיקטוק ומטא פעלו להסרה. הסנאטורית הודיעה על קידום חוק NO FAKES Act שיעניק לאזרחים זכות משפטית לדרוש הסרת deepfakes של קולם או דמותם.

האם החקיקה תספיק מול קצב ההתפתחויות?

מומחים מזהירים כי:

1. טכנולוגיית ה-AI מאפשרת לייצר דיפ פייקים אמינים יותר מדי חודש
2. הגבלות על תכנים מזויפים נתקלות בחוסר אכיפה עקבי בין הפלטפורמות
3. הדבר מהווה איום לא רק על עיתונאים ופוליטיקאים - אלא על כל אדם המחובר לרשת

כפי שאמר חורחה ראמוס: ״אין דרך לעצור את הבינה המלאכותית כרגע - מה שנותר הוא ערנות מתמדת״.