ידיעות בינה מלאכותית בנושא FRAUD
עידו גל, מייסד Riskified, מספר כיצד הקים חברת פינטק בשווי מיליארדים ללא תואר אקדמי. החברה מציעה ביטוח ייחודי נגד הונאות ונסמכת על לקוחות ענק. לדברי גל, התפתחות ה-AI במסחר המקוון מגבירה את מורכבות ההונאות ומעלה את הצורך בפתרונות מתקדמים כמו שלהם.
רשתות קמעונאיות משלבות בינה מלאכותית למאבק בהונאות בהחזרות מוצרים, המוערכות ב-850 מיליון דולר. הטכנולוגיה מזהה זיופים וקופסאות ריקות, חוזה דפוסי החזרות ומקצרת תהליכי עיבוד. קיים חשש מתופעת ה״וורדרובינג״ (שימוש והחזרה). פתרונות כמו Happy Returns משפרים את חווית הלקוח ומצמצמים הונאות.
עובד בחברת Arup העביר 25 מיליון דולר לחשבונות בהונג קונג לאחר שנפל קורבן לשיחת וידאו מזויפת עם דמויות Deepfake של בכירי החברה. תקרית זו ממחישה את העלייה הדרמטית בהונאות מבוססות בינה מלאכותית, עם זינוק של 3,000% בהיקפן מאז 2023, ומצביעה על סכנה חדשה: ניצול סוכני AI פנים-ארגוניים כפרצות אבטחה.
בפסטיבל Double 11 בסין, צרכנים משתמשים ב-AI ליצירת תמונות מזויפות של מוצרים פגומים כדי לקבל החזרים. הדוגמאות כוללות פירות מעופשים, מברשות חלודות וכוסות סדוקות. בעקבות זאת, פלטפורמות הסחר הגיבו בתקנות חדשות ובדירוגי אשראי נוקשים יותר.
Black Friday 2025 מביא איתו עלייה בהונאות AI: אתרים מזויפים, התקפות פישינג, סרטונים משכנעים ומסחר אוטומטי מסוכן באתרי קניות. מומחים מזהירים מעלייה של פי 10 בהונאות מבוססות AI – היזהרו מהנחות מוגזמות ומקישורים חשודים.
הצעת חוק חדשה בארה"ב, 'AI Fraud Deterrence Act', שהוצגה על ידי חברי הקונגרס Ted Lieu ו-Neal Dunn, תכפיל את העונשים על הונאה באמצעות AI ותפליל חיקוי פקידי ממשל באמצעות דיפפייק, למעט מקרים של סאטירה. זאת כתגובה למקרים כמו חיקוי Susie Wiles ו-Marco Rubio.
שימוש לא מפוקח ב-AI על ידי עובדים (Shadow AI) מעלה סיכוני דליפת נתונים וענישה רגולטורית. במקביל, הונאות סייבר מבוססות-AI באסיה צומחות בקצב מהיר מהתגובה הבנקאית, עם הפסדים שנתיים של 37 מיליארד דולר. מומלץ לארגונים לחזק מדיניות, להציע כלי AI מאושרים ולשפר ניטור.
עובדים מנצלים מודלי AI כמו אלו של OpenAI ו-Google ליצירת קבלות פיקטיביות לדיווחי הוצאות. נתונים חדשים מראים עלייה מ-0% ל-14% בהונאות אלו תוך שנה. חברות פינטק דיווחו על זיהוי מעל מיליון דולר בהונאות תוך 3 חודשים. מומחים מזהירים: מעבר לפיטורים - הדבר עלול להוביל להליכים פליליים.
Socratix AI גייסה 4.1 מיליון דולר לפיתוח מערכת AI אוטונומית להתמודדות עם הונאות פיננסיות. המערכת משלבת עם תשתיות קיימות בבנקים, מבצעת אוטומציה של חקירות ומקצרת זמנים מיממה ל-15 דקות. גלגל הגיוס בהובלת Pear VC, עם השתתפות Y Combinator וגופים נוספים.
מפעלי מאמרים בסין משתמשים בכלי AI לייצור המוני של מאמרים אקדמיים מזויפים - עד 30 מאמרים לשבוע לעובד. השירותים נמכרים במחיר של מאות עד אלפי דולרים, עם עשרות אלפי הזמנות שנתיות. השימוש בבינה מלאכותית משפר את איכות הזיופים ומקשה על זיהויים, בעוד רשויות מנסות להיאבק בתופעה.
דוח חדש חושף עלייה מדאיגה בהונאות AI: החל מזיוף קולות יקירים במצוקה, דרך חנויות אונליין עם דמויות מזויפות, ועד דיווחי שווא מסוכנים. Bitdefender ו-FTC מתריעים על נזקי הונאות של עשרות מיליארדים ונותנים טיפים קריטיים להגנה, כולל זיהוי דייפייקים ושימוש בכללים משפחתיים.
הבנק המרכזי האירופי בחר בסטארט-אפ הפורטוגלי FeedzAI למיזם הגנה מפני הונאות ביורו הדיגיטלי. במסגרת חוזה של עד 237.3 מיליון אירו, החברה תפתח מודל AI שיסמן פעילות חריגה בארנקים הדיגיטליים. הפרויקט, המהווה חלק מהמאבק בדומיננטיות של Visa, Mastercard ומטבעות קריפטו צמודים לדולר, צפוי להתרחב ב-2029 לאחר אישור רגולטורי.
סוכני קניות מבוססי AI (Agentic AI) מגדילים את סיכוני ההונאה: כלי LLM כמו ChatGPT מייצרים תעבורה מסוכנת פי 2, המתאפיינת בזיוף זהויות, ניצול פרצות Zero-Click ונזקים של 12.5 מיליארד דולר. הפתרון - מערכות ML בזמן אמת, ניטור התנהגות סוכנים ופרוטוקולי אימות מתקדמים.
אמנים מוצאים אלבומי AI מזויפים תחת שמם בפלטפורמות סטרימינג. התופעה פוגעת באמנים עצמאיים כמו אמילי פורטמן וג'ף טווודי, ואף באמנים נפטרים. למרות תלונות, הפלטפורמות מסירות את התוכן באיחור. מומחים מצביעים על ניצול פרצות בחוק ובטכנולוגיה לגביית תמלוגים, וקוראים להגנות טובות יותר.
מחקרי התנהגות מקוונים סובלים מזיהום מסיבי של תגובות AI, כשלמעלה מ-40% מהמשיבים משתמשים בבוטים. חוקרי מכון מקס פלנק פיתחו שיטות לזיהוי התופעה, ומדגישים ששיתוף פעולה בין חוקרים לפלטפורמות נדרש לשמירת אמינות הנתונים. משבר האמון הנוכחי מצריך פתרונות טכנולוגיים והליכי אימות הדוקים יותר.