שני ישראלים מואשמים בהונאת AI בהיקף של 129 מיליון דולר
משרד המשפטים האמריקאי הגיש כתב אישום נגד שלושה נאשמים, בהם שני ישראלים, בטענה שהפעילו רשת הונאה שגנבה יותר מ-129 מיליון דולר תוך חיקוי קולם ודמותם של מנהלים בכירים באמצעות AI. בין הנפגעים: בתי חולים, בנק וחברת פינטק בריטית שאיבדה 11.5 מיליון דולר. ההאשמות טרם הוכחו.

הקול היה מוכר, ההסבר משכנע וההוראה דחופה: להעביר את הכסף עוד היום, בלי להתייעץ עם אף אחד. רק אחר כך התברר שהמנכ״ל בכלל לא הרים טלפון. מישהו אחר דיבר בקולו.
ב-5 בנובמבר הודיע משרד המשפטים האמריקאי על כתב אישום נגד שלושה נאשמים, ובהם שני ישראלים, בגין מעורבות ברשת הונאה בינלאומית שגנבה יותר מ-129 מיליון דולר מחברות ומוסדות בעולם. בין הנפגעים לפי האישום: בתי חולים, בנק וחברת פינטק בריטית שממנה נלקחו יותר מ-11.5 מיליון דולר. ההאשמות טרם הוכחו בבית המשפט.
איך משכנעים מנהל כספים להעביר הון
התביעה טוענת שהמעורבים השתמשו בבינה מלאכותית כדי לחקות קולות של מנהלים בכירים, ולעיתים גם את דמותם בשיחות וידאו. המתחזים הציגו עסקאות חסויות ודחופות והפנו עובדים לעורכי דין לכאורה. הסודיות צמצמה את הסיכוי להתייעץ, הדחיפות קיצרה את זמן הבדיקה, וסמכות המנכ״ל עשתה את השאר. כך מנצלים את ההרשאות של עובד בלי לעקוף אותן — די לשכנע אותו שההוראה הגיעה מהאדם הנכון.
מאחורי היכולת הזו עומדת קפיצת מדרגה באימון מודלים ליצירת דיבור. מודלים שאומנו על מאגרי דיבור גדולים לומדים דפוסים של הגייה, קצב ואינטונציה, וחלקם משחזרים קול של דובר חדש מתוך דגימת קול קצרה ומייצרים משפטים שהאדם מעולם לא אמר. הנוכל כבר לא צריך הקלטה של המנכ״ל נותן את ההוראה הספציפית; הוא מנסח אותה בעצמו ומלביש עליה את הקול.
למה זיהוי זיופים לא סוגר את הפינה
ד״ר ברק אור, מייסד ArtificialGate ו-STATE16 ומרצה בטכניון, מצביע על המלכודת: אפשר להשתמש ב-AI כדי לזהות זיופים, אבל מודל שמזהה היטב את סוגי הזיוף שעליהם נבחן עלול להחמיץ זיוף בשיטה חדשה. היכולת להתמודד עם נתונים שלא נראו באימון — generalization — אינה מובטחת, ודיוק גבוה בבדיקות לא מבטיח זיהוי אמין בכל מצב.
הפער הזה מהותי: לתוקף מספיקה הצלחה אחת, הארגון חייב להישאר מוגן גם כשהזיוף לא זוהה. לכן העברות כספים חריגות, שינוי פרטי חשבון ומתן הרשאות רגישות מחייבים אימות בערוץ עצמאי ומוכר מראש ואישור נוסף — גם כשהבקשה נשמעת בדיוק כמו המנכ״ל.
בתעשייה המקומית מכירים את הצד הזה של ה-AI בעיקר דרך כלי שיווק וסרטונים; כאן הוא מופיע בכתב אישום פלילי, עם שני ישראלים באמצע. ה-AI כבר יודע לחקות את קולו של המנכ״ל. האתגר הארגוני הוא לוודא שהקול, מוכר ומשכנע ככל שיהיה, לא יהפוך לבדו להוראה מחייבת.