ה-AI של אמזון כבר יודע שיש לכם ישבן שטוח

הזמנתם פעם טייץ מחטב כי רציתם להרגיש יותר טוב באימון? מבחינת האלגוריתם של אמזון, זו כנראה הזמנה לחוות דעת על מבנה הגוף שלכם. בימים האחרונים גולשים אמריקנים גילו במקרה עמוד בשם About You ("עליך") בחשבון האמזון שלהם — ומה שציפו שתהיה עוד רשימת העדפות תמימה הפך לניתוח אישיות שלא ביקשו.

מה אמזון כבר יודעת עליכם?

מייגן מונטגומרי, לקוחה אמריקנית, פתחה את העמוד ומצאה שם לצד פרטים סבירים לגמרי — למשל שהיא מחזיקה שואב אבק של Shark ומתכננת מסיבת יום הולדת שנתיים בנושא "בלואי" — גם קביעה נחרצת אחת: "יש לה ישבן שטוח". מונטגומרי כתבה שנשארה "פשוט ללא מילים", ושיערה שההשערה נולדה מאותו טייץ מחטב שהזמינה. צילום המסך שלה זכה ליותר מ-1.5 מיליון צפיות תוך שעות ספורות — טווח שכל מי שעבד על השקת פיצ'ר בארץ מכיר היטב כחלום — והפך את העמוד לתחרות לא רשמית: מי קיבל את האבחנה המשפילה ביותר.

התוצאות לא איכזבו. משתמשת אחת גילתה שאמזון קבעה שלבעלה "יש רגליים דקיקות"; אחרת, שהיא "מקללת כשהיא מפחדת"; ושלישית, שהיא "לא סומכת על אנשים בקלות". בפרופילים נוספים הופיעו "אין לו חברים", "לא מצליחה להחזיק צמחים אמיתיים בחיים" ו"מתייחסת לחתולים שלה כאילו היו ילדיה הביולוגיים" — כולל סדר עדיפויות ברור: קודם החתולים, אחר כך היחס האימהי כלפיהם, ולבסוף הבעל. משתמש אחד גילה שאמזון מאמינה שהוא קורא ספרים בנייד בזמן שהוא במקלחת ("כן, אבל מה לעזאזל?"); אחר, שהוא "קצר מדי מכדי להגיע לתחתית ארגז שעומקו 40 אינץ'" — קצת יותר ממטר; מישהי קיבלה "אבא גרוע"; ואחר פשוט למד שיש לו תינוק.

אז מה בעצם קרה כאן?

אמזון השיקה את About You במאי האחרון, כדי לאפשר ללקוחות לראות ולערוך את המידע שמשמש אותה להתאמת המלצות קנייה. בארה"ב, שם אמזון היא חלק משגרת החיים של מיליוני משקי בית, היסטוריית ההזמנות מספרת המון: מה אוכלים, אילו בגדים לובשים, אילו תרופות ומוצרי טיפוח נקנים, איך מנקים את הבית ואילו אירועים משפחתיים מתוכננים.

המערכת מנתחת רכישות קודמות, חיפושים באתר, מוצרים שנשמרו ברשימות, ביקורות שנכתבו וגם שיחות עם Alexa for Shopping. המידע מחולק לקטגוריות כמו תחביבים, העדפות מוצרים, מותגים, בית ומשפחה. ההיגיון העסקי ברור: ככל שהחברה יודעת יותר, כך היא יכולה להציע מוצר לפני שחשבתם עליו בעצמכם.

אמזון מציגה דוגמאות תמימות הרבה יותר: מי שקונה בקביעות חלב צמחי יקבל המלצות למוצרים ללא חלב, ומי שמדבר עם אלכסה על האוכל האהוב על החתול שלו יקבל הצעות לחטיפים. בפועל, רכישה שמעידה על הורות, חיפוש אחר מוצר לפצעונים לא אומר בהכרח שיש לכם פצעונים, ורכישת טייץ מחטב היא בוודאי לא הזמנה לחוות דעת.

חשוב לסייג: לא כל האבחנות שהופצו ברשת נוצרו בהכרח בידי הבינה המלאכותית. משתמשים יכולים להוסיף פרטים לפרופיל בעצמם, ואי אפשר לאמת שכל צילום מסך משקף מסקנה עצמאית של המערכת.

זה מצחיק — וזה גם פרטיות

מעבר לבדיחות, התופעה ממחישה כמה אפשר להסיק מפעולות יומיומיות פשוטות. לקוחה אחת סיפרה שנדהמה לגלות שהמערכת שמרה פרטים שכתבה בעבר בביקורות על מוצרים — מה שנראה לה כהמלצה לקונים אחרים הפך לחלק מפרופיל אישי שנבנה עליה.

באמזון מסבירים שאפשר לתקן מסקנות שגויות, להוסיף פרטים או להסיר מידע. אבל אין אפשרות לכבות לחלוטין את התכונה, והסרת מסקנה מהפרופיל אינה מוחקת בהכרח את המידע הגולמי שעליו התבססה. החברה סירבה להתייחס לחלק מהתגובות.

איך בודקים מה המערכת חושבת עליכם

באפליקציית Amazon Shopping: לשונית Me, לחיצה על השם, ואז About You. בחלק מהגרסאות: Account ומשם ל-Shopping Preferences. באתר במחשב: מעבירים את העכבר מעל Account & Lists, לוחצים על השם או Who's Shopping?, בוחרים פרופיל ונכנסים ל-About You. מסלול חלופי: Account, אחריו Your Shopping Preferences, ובסוף Manage Your Information — שם אפשר לעיין, לערוך או להסיר כל מסקנה.

למי שבודק מישראל, היסטוריית ההזמנות דלילה בהרבה מזו האמריקנית הממוצעת — וגם אצלנו הפרופיל יצא מאכזב למדי: "כנראה מעדיפים יוגורט יווני", "כנראה אוהבים ערכות סלט מוכנות" ומי פה ללא אלכוהול. נראה שאחרי המהומה המערכת הורידה פרופיל.

בכל מקרה, אם בשבועות הקרובים יתחילו להציע לכם מתקן לחיטוב ישבן — עכשיו אתם יודעים מאיפה זה הגיע.