התפשטות ה-AI הסוכן: האיום החדש על הסחר הדיגיטלי

מהפכת הקניות הדיגיטלית והיטשטשות הגבולות עם ה-AI

עד שנת 2025, צפויים 2.8 מיליארד אנשים לבצע רכישות אונליין – כך עולה מנתוני Statista. לצד הגידול בנפח העסקאות, ניצבת מהפכה בעיצומה: עליית Agentic AI - סוכני קניות מבוססי בינה מלאכותית כמו ChatGPT, Claude ו-Gemini.

הסיכונים החדשים באופק

סוכנים אלה מאפשרים למשתמשים להשוות מחירים ולהשלים רכישות ללא מעורבות אנושית ישירה. אולם, הטכנולוגיה פותחת פתח לסיכוני הונאה מתוחכמים:

• זיוף זהויות סינתטיות באמצעות כלים כמו WormGPT
• רכישות אוטומטיות כרטיסי אשראי גנובים שעוקפות מערכות זיהוי הונאה
• נתוני סיכון גבוהים: תנועת גולשים שמקורה ב-LLMs מסוכנת פי שניים ממקורות אחרים

מקרה מדאיג במיוחד הודגם בכנס Black Hat: מומחים מ-Zenity הראו כיצד ניתן להשתלט על חשבונות משתמשים ב-ChatGPT, לגשת לשיחות פרטיות ואף למשבצים ב-Google Drive - ללא כל אינטראקציה מצד המשתמש (התקפת Zero-Click).

נתוני הונאה מטרידים

ב-2024 נחצה סף חדש בהיקף ההונאות הדיגיטליות:

• נזקים מצטברים של 12.5 מיליארד דולר (FTC)
• אחד מכל שלושה אירועי הונאה מביא לנזק כספי - עליה של 14% לעומת 2023

פתרונות טכנולוגיים למניעה

לדברי אייל אלעזר, סגן נשיא למודיעין שיווקי ב-Riskified, עולם המסחר האלקטרוני נדרש ל:

1. מערכות זיהוי הונאה מבוססות למידת מכונה בזמן אמת
2. ניטור התנהגות סוכני AI וסיווג סיכונים לפי מקור (ChatGPT, Gemini וכו')
3. פרוטוקולי אימות מתקדמים לזיהוי סוכנים לגיטימיים
4. שילוב בין צוותי ניהול סיכונים וצוותים עסקיים לקבלת החלטות מאוזנת

"הטכנולוגיה שמנוצלת כיום להונאה תוכל לשמש גם ככלי הגנה רב עוצמה" - מדגיש אלעזר.

המפתח להצלחה? שילוב בין חדשנות לאבטחה מתקדמת תוך שמירה על חוויית משתמש חלקה – ואף שהסוכנים האוטונומיים יהפכו את המסחר לבטוח יותר, משתמשים נדרשים להימנע משיתוף כרטיסי אשראי או נתונים רגישים גם בסביבות טכנולוגיות מתקדמות.