הונאת AI חדשה בסחר המקוון בסין

במהלך פסטיבל הקניות Double 11, שהתקיים סביב ה-11 בנובמבר, דיווחו בעלי חנויות מקוונות בסין על גל של תמונות מזויפות שנוצרו בעזרת בינה מלאכותית (AI), אשר שימשו צרכנים לדרישת החזרים על מוצרים שלא ניזוקו. התופעה מעוררת דיונים ערים בנושאי אתיקה, חוקיות ויעילות כלי זיהוי התמונות של המוכרים.

דוגמאות להונאה:

• צרכנים צילמו פירות שקיבלו ושינו אותם בעזרת AI כדי להיראות מעופשים ומכוסים עובש.
• מוכר מברשות שיניים חשמליות קיבל תמונה של מברשת חלודה ובעקבותיה בקשה להחזר, למרות שהתלונה נשמעה חסרת היגיון.
• עובד בחנות בגדים דיווח על לקוחה שטענה כי שמלת טריקו חד-חלקית הגיעה עם צווארון קרוע באופן חמור, וצירפה תמונה שנוצרה ב-AI. התמונה הציגה תאורה חריגה, קווים מעוותים ושוליים.
• סוחר כוסות קרמיקה קיבל תמונה של כוס סדוקה בסדקים דמויי קורי עכביש, אך חשד בה בשל אריזת המשלוח הבטוחה. הלקוח ביטל את הבקשה לאחר דרישה לצילום וידאו, ובדיקת גלאי AI אישרה 92% הסתברות לזיוף.

בעלי חנויות מתלוננים על ״גוזזי צאן״ – קונים שמתלוננים על פגמים במוצרים זולים ומקבלים החזרים ללא החזרת הסחורה. פלטפורמות סחר נוטות לצד הקונים ומאשרות לעיתים קרובות החזרים לא מבוססים.

גם מוכרים משתמשים ב-AI לשיפור תמונות מוצרים, כולל יצירת דוגמניות ודוגמנים מזויפים.

צעדים נגד ההונאה:

• באפריל, פלטפורמות ביטלו את אפשרות ״החזר בלבד״ ללא החזרת מוצר.
• Taobao ו-Tmall של Alibaba Group הטמיעו מערכת דירוג אשראי לקונים על סמך היסטוריית רכישות, דפוסי החזרים ומשוב ממוכרים.
• מ-1 בספטמבר, סין הטילה תקנות חדשות: כל תוכן שנוצר ב-AI חייב להיות מסומן במפורש ובאופן מובחן.

התופעה מדגישה אתגרים חדשים בסחר הדיגיטלי בעידן ה-AI.