התפשטות ה-AI הסוכן: האיום החדש על הסחר הדיגיטלי
סוכני קניות מבוססי AI (Agentic AI) מגדילים את סיכוני ההונאה: כלי LLM כמו ChatGPT מייצרים תעבורה מסוכנת פי 2, המתאפיינת בזיוף זהויות, ניצול פרצות Zero-Click ונזקים של 12.5 מיליארד דולר. הפתרון - מערכות ML בזמן אמת, ניטור התנהגות סוכנים ופרוטוקולי אימות מתקדמים.
מהפכת הקניות הדיגיטלית והיטשטשות הגבולות עם ה-AI
עד שנת 2025, צפויים 2.8 מיליארד אנשים לבצע רכישות אונליין – כך עולה מנתוני Statista. לצד הגידול בנפח העסקאות, ניצבת מהפכה בעיצומה: עליית Agentic AI - סוכני קניות מבוססי בינה מלאכותית כמו ChatGPT, Claude ו-Gemini.
הסיכונים החדשים באופק
סוכנים אלה מאפשרים למשתמשים להשוות מחירים ולהשלים רכישות ללא מעורבות אנושית ישירה. אולם, הטכנולוגיה פותחת פתח לסיכוני הונאה מתוחכמים:
- זיוף זהויות סינתטיות באמצעות כלים כמו WormGPT
- רכישות אוטומטיות כרטיסי אשראי גנובים שעוקפות מערכות זיהוי הונאה
- נתוני סיכון גבוהים: תנועת גולשים שמקורה ב-LLMs מסוכנת פי שניים ממקורות אחרים
מקרה מדאיג במיוחד הודגם בכנס Black Hat: מומחים מ-Zenity הראו כיצד ניתן להשתלט על חשבונות משתמשים ב-ChatGPT, לגשת לשיחות פרטיות ואף למשבצים ב-Google Drive - ללא כל אינטראקציה מצד המשתמש (התקפת Zero-Click).
נתוני הונאה מטרידים
ב-2024 נחצה סף חדש בהיקף ההונאות הדיגיטליות:
- נזקים מצטברים של 12.5 מיליארד דולר (FTC)
- אחד מכל שלושה אירועי הונאה מביא לנזק כספי - עליה של 14% לעומת 2023
פתרונות טכנולוגיים למניעה
לדברי אייל אלעזר, סגן נשיא למודיעין שיווקי ב-Riskified, עולם המסחר האלקטרוני נדרש ל:
- מערכות זיהוי הונאה מבוססות למידת מכונה בזמן אמת
- ניטור התנהגות סוכני AI וסיווג סיכונים לפי מקור (ChatGPT, Gemini וכו')
- פרוטוקולי אימות מתקדמים לזיהוי סוכנים לגיטימיים
- שילוב בין צוותי ניהול סיכונים וצוותים עסקיים לקבלת החלטות מאוזנת
"הטכנולוגיה שמנוצלת כיום להונאה תוכל לשמש גם ככלי הגנה רב עוצמה" - מדגיש אלעזר.
המפתח להצלחה? שילוב בין חדשנות לאבטחה מתקדמת תוך שמירה על חוויית משתמש חלקה – ואף שהסוכנים האוטונומיים יהפכו את המסחר לבטוח יותר, משתמשים נדרשים להימנע משיתוף כרטיסי אשראי או נתונים רגישים גם בסביבות טכנולוגיות מתקדמות.