סרטוני AI מזויפים גנבו מאוסטרלים 7.4 מיליון דולר
ASIC, רשות ניירות הערך האוסטרלית, מזהירה מפני גל הונאות השקעה המבוססות על סרטוני deepfake של פוליטיקאים וסלבריטאים, שגרמו להפסדים של 7.4 מיליון דולר. הרמאים משתמשים ב-AI כדי לבנות ״רשת הונאה״ שלמה — מסרטון מזויף ועד אתר מזויף — שמקשה על הזיהוי. הפעם, האזהרה מגיעה מ-ASIC, לא מחברות הטכנולוגיה.
דמיינו שאתם גוללים בפיד ברשת החברתית ורואים סרטון של ראש ממשלת אוסטרליה, אנתוני אלבניז, מבטיח ש-4,000 שקלים יכולים להפוך ל-40,000 שקלים בחודש. זה נשמע מפתה, בטח כשהפנים המוכרות מהטלוויזיה מדברות ישירות אליכם. אבל ה״אלבניז״ הזה הוא זיוף מושלם — סרטון deepfake שנוצר באמצעות AI. וזו בדיוק הבעיה שממשלת אוסטרליה מתמודדת איתה כעת, במאבק מול גל הונאות השקעה מתוחכם.
רשות ניירות הערך האוסטרלית (ASIC) פרסמה אזהרה חמורה: נוכלים ברשתות החברתיות מפעילים מודל AI מתקדם כדי ליצור סרטוני deepfake של ידוענים ופוליטיקאים, ומשתמשים בהם כדי לפתות אזרחים להשקיע בפלטפורמות מזויפות. על פי הנתונים שחשפה הרשות, אזרחים אוסטרלים הפסידו 7.4 מיליון דולר אוסטרלי (כ-17 מיליון שקלים) בעקבות שימוש בדמויותיהם של עשרה ידוענים בלבד.
איך עובדת ה״שיטה״? זו לא העתקה חובבנית. הרשות מתארת ״רשת הונאה״ שלמה ומשומנת. בשלב הראשון, פרסומת ממומנת בפייסבוק או באינסטגרם מציגה סרטון deepfake של דמות מוכרת. כשלוחצים, מועברים לכתבה מזויפת באתר חדשות שנראה לגיטימי, עם ״הוכחות חברתיות״ כמו תגובות נלהבות של ״משקיעים״. משם, הקורבן מופנה לאתר השקעות מזויף, שגם הוא נראה מקצועי לחלוטין. לאחר מסירת הפרטים, נציגי המכירות ממשיכים לעקוב אחר הקורבן בשיחות טלפון ומציעים בונוסים קטנים כדי לבנות אמון — עד שכספי הקורבן נעלמים.
מי על הכוונת? רשימת ה״כוכבים״ המזויפים מגוונת ומעניינת: לצד ראש הממשלה אלבניז מופיעים כלכלנים, עיתונאי כלכלה נחשב כמו אלן קולר מ-ABC, פוליטיקאים ואנשי עסקים, בהם המיליארדרית ג'ינה ריינהרט, ואפילו שדרן רדיו ותיק שכבר הלך לעולמו, ג'ון לוז. המעניין הוא שהרשות מציינת שהרמאים מתעדכנים בחדשות — הם מחליפים את הדמויות המזויפות בהתאם למה שפופולרי כרגע, כדי לנצל את האמון הציבורי.
למה זה קשה לזיהוי? הבעיה, לדברי ASIC, היא שה-AI הפך את הזיופים למשוכללים עד כדי כך ש״חיפוש מהיר בגוגל״ כבר אינו מספיק. הרמאים בונים זהות דיגיטלית מלאה ל״חברת ההשקעות״ המזויפת: אתר, כתבות, ביקורות חיוביות ופוסטים ברשתות. הכול מזויף, אבל נראה אמין. אפילו עיתונאים כמו קולר סיפרו שכאשר הם מדווחים לפייסבוק על דף מזויף שמתחזה להם, הוא מוסר — רק כדי להופיע שוב. לדבריו, זה ״משחק מחבואים אינסופי״.
מה עושים? ASIC קוראת לציבור לא לסמוך על פנים מוכרות ולבדוק היטב כל הזדמנות השקעה. ההמלצות העיקריות: לאמת את כתובות האתרים, לחפש את החברה במרשמים רשמיים ולחשוד בכל בקשה לפעול בדחיפות. ״נוכחות של תוכן מלוטש, מיתוג מוכר או עדויות משכנעות לא אומרת שההשקעה לגיטימית״, אמרה יושבת ראש ASIC, שרה קורט.
בינתיים, ההתמודדות הרגולטורית גדלה. הרשות הסירה יותר מ-5,400 קישורי פישינג (פי ארבעה לעומת השנה הקודמת), יותר מ-7,000 פלטפורמות השקעה מזויפות (פי 2.5 לעומת השנה הקודמת) ויותר מ-3,100 הונאות קריפטו. חברות כמו Meta חוות לחץ גובר למנוע את ההפצה, אם כי בינתיים נראה שמשחק ה״מכה בחפרפרת״ ממשיך.
השורה התחתונה הונאות ה-AI המזויף מוכיחות שהטכנולוגיה לא מחכה לחוקים. כלים זולים וחזקים ליצירת תוכן גנרטיבי כבר כאן, והם נופלים לידיים הלא נכונות. עבור עמק הסיליקון ותל אביב, זו תזכורת חדה: ככל שה-AI שלנו נהיה יותר טוב, ככה מערך ההונאות שמשתמש בו נהיה מתוחכם יותר. ובסופו של דבר, הנפגעים הם אנשים רגילים — שמאבדים את כספם וביטחונם. ה-AI של אלבניז אולי מזויף, אבל הנזק — 7.4 מיליון דולר — אמיתי לגמרי.