הסוכן Muse חושף פרטי חשבון בנק של משתמשים אחרים
סוכן ה-AI של Meta, Muse, מערבב שיחות בין משתמשים שונים וחושף מידע רגיש כמו פרטי חשבון בנק. עובדים בחברה דיווחו על מקרים שבהם ה-AI ייצר תזכורות או נתונים שלא התבקשו, מה שמעלה חששות כבדים בנוגע לפרטיות. לכלי יש מעל 10 מיליון הורדות, והנחיות לשימוש בטוח כוללות הגבלת הרשאות והימנעות מחשיפת נתונים אישיים.

תארו לעצמכם שאתם מנהלים שיחה תמימה עם סוכן ה-AI של Meta, ופתאום הוא מודיע לכם על יתרת חשבון בנק שאינה שלכם — 2722.58 דולר ב-Capital One ועוד 5899.57 דולר ב-Charles Schwab. זה בדיוק מה שקרה לעובד ב-Meta, לפי דוח פנימי שפורסם לאחרונה. ב-Muse, סוכן ה-AI ש-Meta השיקה בספטמבר וצבר מעל 10 מיליון הורדות, מתגלים באגים חמורים שמערבבים שיחות בין חשבונות שונים וחושפים מידע רגיש.
אז מה בעצם קרה כאן?
עובדים ב-Meta פרסמו פוסטים פנימיים שבהם תיארו מקרים שבהם Muse ״החליק״ מידע מחשבונות אחרים לשיחות שלהם. לדוגמה, עובד קיבל תזכורת להגיב להודעה מאחותו באפליקציית Signal, אף שלדבריו מעולם לא אישר גישה לאפליקציות אחרות. במקרה אחר, ה-AI ייצר בקשות לטיפול בילדים או ייעוץ קריירה שהעובד לא ביקש. ״זה נראה כמו הפרת פרטיות קיצונית״, נכתב באחד הפוסטים.
הפרטים הקטנים והמדאיגים
מעבר לערבוב השיחות, דוחות מציינים ש-Muse מבקש הרשאות מרחיקות לכת במהלך ההתקנה: גישה מלאה לכונן, שימוש במיקרופון ואפילו אחסון סיסמאות ושמות משתמש. ברירת המחדל היא אימון מודלים על נתוני המשתמשים — מה שאומר ש-Meta יכולה להשתמש במה שאתם עושים עם הכלי כדי לשפר את ה-AI שלה. לחברת האם יש היסטוריה של בעיות פרטיות, כולל קנס של 5 מיליארד דולר מוועדת הסחר הפדרלית בארה״ב.
איך משתמשים בזהירות?
מומחי תעשייה מציעים להגביל את ההרשאות של Muse ככל האפשר. למשל:
- לבטל גישה לכונן, למיקרופון ולסיסמאות.
- להימנע משימוש בכלי כצ׳אטבוט אינטראקטיבי, כדי לא לחשוף פרטים אישיים בשיחה.
- להשתמש בכלי רק למשימות מחקר ציבוריות, כמו חיפוש מידע כללי ברשת, ולא למשימות שדורשות גישה לחשבונות או לקבצים רגישים.
מה קורה עכשיו?
Meta עדיין לא הגיבה רשמית, אבל עובדי החברה מודאגים מההשלכות על אמון המשתמשים. עם מיליוני הורדות, התקרית הזו עלולה לפגוע במוניטין של החברה — במיוחד בעולם שבו פרטיות היא מטבע עובר לסוחר. מצד שני, חלק מהמשתמשים טוענים ש-Muse הוא כלי חינמי ושימושי למשימות שאינן קריטיות, ובלבד שנוקטים באמצעי הזהירות המתאימים.
בסופו של דבר, כדאי לזכור: אם ה-AI שלכם מתחיל ללחוש לכם על יתרות בנקאיות שאינן שלכם, אולי הגיע הזמן לבדוק את ההגדרות.