הסוכן החמוד של Meta מסוכן לנתונים שלך
Meta ו-OpenAI משיקות סוכנים עם אווטארים חמודים כמו Jolly ו-Dots, אבל מומחים מזהירים שהעיצוב הזה מטשטש סיכוני פרטיות — כולל מקרים שבהם Muse כבר קרא הודעות פרטיות בלי ידיעת המשתמשים. ההשקה כוללת גם מצב קולי חדש ואיסוף נתונים נרחב.
למה חברות טכנולוגיה פתאום מלבישות לסוכני ה-AI שלהן פרצופים חמודים וצורות של חיות מחמד דיגיטליות? התשובה היא לא רק עיצוב — אלא אסטרטגיה שיווקית עמוקה, וזו בדיוק הנקודה שבה הסיפור מקבל טוויסט מדאיג.
בשבוע שעבר, Meta השיקה את Muse — סוכן AI אישי חדש עם אווטאר בשם Jolly, דמות דיגיטלית שדומה לדובי מפוקסל, שמנפנפת לכם ושולחת מיילים, מזמינה טיסות ומנהלת את האפליקציות שלכם בשמכם. במקביל, OpenAI הציגה את Dots, עוזרים עם פרצופי קמע צבעוניים שמרחפים על המסך ומבטיחים להביא לכם עבודה עוד לפני שתחשבו לבקש אותה.
Meta גם שחררה את Muse Charm, מכשיר בגודל של כדור גולף עם מסך קטן — כדי שתוכלו לשמור את Jolly בכיס. ואם זה לא מספיק, החברה הודיעה על מצב קולי חדש ל-Muse, שמאפשר שיחות וידאו בזמן אמת עם האווטאר, כולל הבעות עדינות שמותאמות לטון השיחה. זה זמין כבר עכשיו בארה״ב, במובייל, בווב וב-Mac, ובהמשך יגיע למשקפי ה-AI של Meta.
אבל יש פה משהו מעבר לנחמדות. מומחים בתחום טוענים שהעיצוב החמוד הזה מטשטש סיכוני פרטיות ואיסוף נתונים חמורים. לדוגמה, במחקר שנחשף לאחרונה, מתברר ש-Muse כבר קרא הודעות טקסט של משתמשים וחשף כתובת בית של משתמש אחר — בלי ידיעתם. זה לא תרחיש עתידי; זה כבר קרה.
מחקרים מראים שאנשים נוטים לשתף יותר עם דמות ידידותית ולתת גישה רחבה יותר להודעות, ללוח השנה, לחשבונות ואפילו למידע אישי. הקסם של החמידות מוריד את רמת הספקנות, ומשתמשים נוטים לאשר הרשאות מבלי לקרוא את האותיות הקטנות. התוצאה? חברות צוברות נתונים עשירים בהרבה ממה שהן היו מקבלות מצ׳אטבוט רגיל.
Meta לא לבד; OpenAI עם Dots וסטארטאפים כמו Pickle, עם חיה סגולה שצפה על המסך, נוקטים באותה גישה. אבל בעוד שצעצועים דיגיטליים כמו Tamagotchi היו תמימים, כאן מדובר בסוכנים שיכולים לקרוא את ההודעות שלכם, לבצע רכישות ולתפעל חשבונות — הסיכון כאן גבוה הרבה יותר.
לפני שאתם מאמצים סוכן AI כזה, כדאי לשאול: לאיזה מידע יש לו גישה, מה הוא יכול לעשות באמצעותו ומי מרוויח מזה. כי בעולם שבו הבינה המלאכותית נדחפת אלינו עם פרצופים חמודים, חשוב לזכור שהמתיקות לפעמים מסתירה סכנות אמיתיות.
בסופו של דבר, בארץ, אנחנו רגילים לשיחות על סטארטאפים וחדשנות, אבל כאן מדובר בטרנד שמשפיע על כולם — מי שמפתח ומי שמשתמש. אז בפעם הבאה שה-AI החמוד מציע לכם עזרה, כדאי להיות ערניים, כי לפעמים הדברים המתוקים ביותר הם גם החמקמקים ביותר.