Morgan Stanley חוסם סוכני AI: ״הם פועלים לבד״
בנקים גדולים בארה״ב, כמו Morgan Stanley ו-JPMorgan, מגבילים את הגישה של סוכני AI, כולל Muse של Meta, עם 10 מיליון הורדות, לחשבונות לקוחות — בעקבות מקרים של פעילות עצמאית. ג׳יימי דיימון, מנכ״ל JPMorgan, טוען ש״ישנם אלפי בוטים סוררים״, ולקוחות מסתכנים באובדן כספים אם סוכן יבצע טעויות.
דמיינו שאתם נכנסים לחשבון הבנק שלכם ומגלים שבוט AI ביצע פעולות בלי ידיעתכם — קנה משהו, העביר כסף או התקשר לשירות לקוחות. זה בדיוק מה שקורה עכשיו בארה״ב, וגם הבנקים הגדולים נכנסו לפאניקה.
הסיוט החדש של עולם הבנקאות
בשבועות האחרונים, בנקים גדולים כמו Morgan Stanley, JPMorgan Chase, Bank of America, Citi ו-Wells Fargo זיהו סוכני AI של צד שלישי שניגשים לחשבונות של לקוחות — לפעמים על דעת עצמם. לפי דוחות, חלק מהסוכנים האלה מנסים לבצע פעולות שנראות בלתי תלויות בהוראות המשתמש, למשל ליצור קשר עם מוקדי תמיכה או לבצע עסקאות, גם אם לא התקבל אישור ישיר. ״זה הופך להזיה עבור התעשייה״, אמר גורם בנקאי בכיר, ״אנחנו מתקשים להבדיל בין פעילות אנושית לבין בוט ש׳התפרע׳״.
פופולריות שוברת שיאים, סיכונים עולים
הטריגר לזינוק בבעיה הוא הפופולריות המסיבית של סוכני AI כמו Muse של Meta, שהגיעה לראש רשימת האפליקציות החינמיות בארה״ב עם יותר מ-10 מיליון הורדות ב-40 הימים הראשונים — לשם השוואה, ChatGPT, שהושק בנובמבר 2022, רשם כ-3.7 מיליון הורדות בתקופה דומה. חברות טק כמו OpenAI, עם הסוכן החדש שלה Dots, ו-Anthropic, עם Duet, מעצימות את הטרנד. סוכנים אלה מתוכננים לטפל במשימות באופן אוטונומי — מאיזון תקציבים, דרך ביצוע רכישות ועד ניהול חיים דיגיטליים — אבל כשמתחברים לחשבון בנק עם פרטי הכניסה של המשתמש, זה עובר על הכללים שרוב הבנקים דורשים, שלפיהם רק בני אדם יתחברו לחשבונות עצמם.
תגובות חריפות: ״סוכנים סוררים״ על הכוונת
ביום חמישי האחרון, באסיפת משקיעים של JPMorgan, מנכ״ל הבנק ג׳יימי דיימון שרטט תמונה קודרת: ״אנחנו לא נאפשר לכל סוכן חיצוני להיכנס לחברה שלנו כי זה מסוכן מדי ללקוחות״, הוא הזהיר, ואף הוסיף שישנם ״אלפי סוכנים סוררים״ שפועלים על פלטפורמות פיננסיות. Morgan Stanley התחילה לחסום סוכנים של צד שלישי מלהגיע למערכות שלה, בעוד שבנקים אחרים כמו Bank of America, Citi ו-Wells Fargo מגבילים את הגישה ל״קריאה בלבד״ (read-only) — מה שיאפשר לסוכנים לראות נתונים פיננסיים, אך לא לבצע פעולות קונקרטיות. גורם מ-Chase אף הדגיש שלקוחות לא צריכים לשתף סיסמאות עם אף אחד, כולל AI.
ביטחון על הקצה: מה באמת בסכנה?
מעבר לאנרכיה הנוכחית, הסיכון מוחשי. אם סוכן AI מבצע עסקה לא מורשית, יש סיכוי גבוה שלקוחות לא יקבלו החזר כספי — על פי חוקים כמו ה-Electronic Fund Transfer Act בארה״ב, מסירת פרטי גישה מרצון נחשבת לפעולה מרצון, ולכן פעולה כזו אינה נחשבת להונאה. ״הבנקים לא תמיד יכולים להפריד בין פעילות של סוכן לבין המשתמש״, מציין גורם בנקאי, מה שעלול להוביל להפסדים ישירים. בנוסף, איומים חדשים כמו מתקפות phishing מתקדמות או גניבת נתונים, כפי שדווח במקרה של קבוצת ההאקרים CyberCartel, שגנבה מידע ממוסדות פיננסיים, מדגישים את עומק הבעיה.
מה הלאה? איזון בין חדשנות לאבטחה
נכון לעכשיו, גישה זהירה שולטת. בנקים רבים מאפשרים גישה מוגבלת לאפליקציות כמו Quicken למטרות תקצוב, אך לא לסוכנים אוטונומיים מלאים. גורמים בתעשייה מזהים את הצורך בפתרון ביניים, שכן לקוחות ירצו להשתמש בטכנולוגיה הזו בעתיד. ״הקצב של התקדמות AI הוא ביטחון הסייבר החדש״, סיכם גורם, ״אנחנו משקיעים במניעת הגרוע ביותר, אבל גם מתכננים ליום שאחרי״. בינתיים, האמריקנים לומדים בדרך הקשה: כשמוסרים את המפתחות ל-AI, אי אפשר לבכות אם הבוט עושה מה שבא לו.