הונאות deepfake עלו לאוסטרלים 7.4 מיליון דולר
ASIC מזהירה מעלייה דרמטית בהונאות deepfake, שהובילו להפסדים של 7.4 מיליון דולר, ובינה מלאכותית הופכת את הזיופים לקשים יותר לגילוי. בנוסף, חברת פרלמנט אוסטרלית מציעה חוק לסימון תכנים פוליטיים מבוססי AI.
אתם כנראה זוכרים את הפעם האחרונה שראיתם סרטון של ידוען או פוליטיקאי מפרסם הזדמנות השקעה שאי אפשר לפספס. אבל מה אם הסרטון הזה מזויף לגמרי, בעזרת AI?
זה בדיוק מה שקורה באוסטרליה בקנה מידה עצום. רגולטור החברות ASIC פרסם אזהרה חמורה: עבריינים משתמשים בסרטוני deepfake של ידוענים ופוליטיקאים – כולל ראש הממשלה אנתוני Albanese – כדי לפתות אוסטרלים להשקיע בפלטפורמות מזויפות. התוצאה? הפסדים של 7.4 מיליון דולר אוסטרלי רק בקרב עשרת האישים שהתחזו אליהם בתדירות הגבוהה ביותר.
אז מה בעצם קרה כאן?
ASIC חשפה תמונה מטרידה. בשנת הכספים האחרונה היא טיפלה ביותר מ-19,400 הונאות – פי שלושה מהשנה הקודמת. העלייה הזו קשורה ישירות לנגישות של כלי AI ליצירת deepfakes. הסרטונים האלה נראים כל כך אמיתיים, שקל מאוד להיתפס.
דוגמה בולטת: סרטון deepfake של Albanese מבטיח שאוסטרלים יכולים להשקיע 4,000 דולר ולקבל 40,000 דולר בחודש. ״זה לא עוד מוצר הונאה״, אומר ה-Albanese המזויף, ומתאר את הפלטפורמה כ״רשמית״ ובעלת ״ערבות ממשלתית״. כמובן, הכול שקר.
ברשימה של הדמויות שמתחזים אליהן בתדירות הגבוהה ביותר נמצאים גם כלכלנים, עיתונאים בכירים כמו Alan Kohler מה-ABC ופוליטיקאים אחרים. ASIC מציינת שהעבריינים גמישים ומגיבים לחדשות – הם מחליפים את הדמויות שהם מזייפים כדי להתאים לנושאים אקטואליים, כמו שערי ריבית או מטבעות קריפטו.
למה זה כל כך קשה לעצור?
כאן נכנס לתמונה ה-AI. ASIC הזהירה שבינה מלאכותית הופכת את ההונאות למשכנעות יותר ויותר, ובמקביל לקשות יותר לזיהוי. ״קיומו של תוכן מלוטש, מותגים מוכרים או עדויות משכנעות לא אומר שההשקעה לגיטימית״, אמרה יו״ר ASIC, Sarah Court. ״בינה מלאכותית מאתגרת את היכולת שלנו לוודא אם הזדמנות היא אמיתית או לא.״
מחקר של Commonwealth Bank מצא ש-9 מתוך 10 אוסטרלים בטוחים שהם יכולים לזהות הונאת AI, אבל בפועל הם מצליחים פחות ממחצית הזמן. הנתון הזה מראה את הפער המסוכן בין ביטחון עצמי ליכולת אמיתית.
מי אשם, ומה עושים?
ASIC מפנה אצבע מאשימה כלפי חברות המדיה החברתית כמו Meta. לדברי Sarah Court, לחברות האלה ״יש הרבה על מה לענות״ ביחס להונאות. Alan Kohler, עיתונאי ה-ABC שמתחזים אליו לעיתים קרובות, תיאר את הניסיון שלו: ״זה כמו משחק של 'הכה את החפרפרת'... זה פשוט חזר שוב ושוב.״
הוא טוען שהממשלה חייבת להתערב במהירות, באמצעות קנסות ורגולציה, ולא להשאיר את זה לפלטפורמות. ״הממשלה חייבת לרדת עליהן קשה״, אמר. ״אני חושב שזה באמת חירום בהתהוות.״
בינתיים, חברת פרלמנט עצמאית, Zali Steggall, העלתה הצעת חוק שתדרוש לסמן בבירור תוכן פוליטי שנוצר על ידי AI ועשוי להטעות מצביעים. זה צעד בכיוון הנכון להתמודדות עם הממד הפוליטי של התופעה.
מה קורה מאחורי הקלעים?
ההונאות עוקבות אחר דפוס קבוע: זה מתחיל במודעה חברתית עם ״אישור״ של ידוען, שמובילה לאתר חדשות מזויף שמשמש כ״הוכחה חברתית״, ומשם לאתר השקעות מזויף. ברגע שיש להם את הפרטים שלך, הם ממשיכים בשיחות טלפון ואפילו מציעים רווחים קטנים כדי לבנות אמון.
ASIC הסירה יותר מ-33,400 אתרים, חשבונות מדיה חברתית והונאות פישינג בשלוש השנים האחרונות. רק בשנה האחרונה: 5,476 קישורים להונאות פישינג (פי ארבעה מהשנה הקודמת), 7,051 פלטפורמות השקעה מזויפות (פי 2.5), ו-3,106 הונאות מטבעות קריפטו (עלייה של 30%).
אז מה באמת מונח על הכף?
מעבר להפסדים הכספיים המיידיים – בשנת 2025, אוסטרלים הפסידו יותר מ-2 מיליארד דולר להונאות, מתוכם 837.7 מיליון דולר בהונאות השקעות – יש פה שבר של אמון. כשאלן Oster, כלכלן ראשי לשעבר ב-NAB, רואה שמתחזים אליו בתוכניות האלה, הוא מרגיש ״זוועתי״. ״אנשים יאבדו כסף ויאשימו אותי״, הוא אמר. ״זה מזעזע, אבל כנראה שאין מה לעשות כי הם פועלים מחו״ל.״
AI מקל על היצירה של deepfakes משכנעים, מה שמעלה את הסיכון לכל מי שמחפש ברשת. בדיקה פשוטה כבר לא מספיקה.
בסופו של דבר, המאבק הזה מזכיר לנו שהטכנולוגיה שיכולה ליצור עולמות וירטואליים מרהיבים יכולה גם לשמש ככלי נשק דיגיטלי. וכאשר כוחו של ה-AI נפגש עם חמדנות אנושית, התוצאות יכולות להיות יקרות – מאוד.
והם עדיין מנסים למכור לנו שה-AI הוא רק כלי.