מנכ"ל Alpaca שואל: מי אשם כשסוכן AI עושה טרייד גרוע?
בשני פאנלים בלאס וגאס, בכירים מ-MX, Finastra, Amazon, Melio, Alpaca ו-J.P. Morgan אמרו ש-AI כבר עמוק בפיננסים — אבל ה-Governance עוד רודף מאחור. אחד ממוצרי Finastra מעבד תשלומים בהיקף של 7 טריליון דולר ביום, ויו"ר ה-FDIC הודה שהנחיות ניהול הסיכונים שלו לא מכסות AI אג'נטי. השאלה הפתוחה: מי אחראי כשסוכן טועה.
אם חשבתם שהדיון הוא עדיין "האם לאמץ AI" — טעיתם. בשני פאנלים בלאס וגאס, ב-18 וב-20 באוקטובר ובתמיכת J.P. Morgan, הבכירים כבר דיברו על השלב הבא: מה עושים כשהטכנולוגיה טועה, ומי משלם על זה.
"זה זמן מאוד מסוכן"
Jane Barratt, chief advocacy officer ב-MX, הגדירה את התקופה ככה: אנשים רואים עדויות אנקדוטליות על מה שהטכנולוגיה יודעת לעשות וקופצים פנימה כמו "מלח שיכור", בלי לחשוב על guardrails ובלי לחשוב על use cases.
Shirley Powell, ראש התקשורת האסטרטגית ב-Finastra, שמה את זה במספרים: אחד ממוצרי החברה מעבד תשלומים בהיקף של 7 טריליון דולר ביום — סדר גודל שבו גם שבריר אחוז של טעויות הוא לא בעיה תפעולית, אלא קריסה. "איזה אחוז מההעברות האלה אתם מוכנים לקבל כטעויות?"
Nilesh Dusane, ראש תשלומים מוסדיים גלובלי ב-Amazon, דווקא רגוע: תעשיית הפיננסים משתמשת ב-AI כבר שנים, גם generative וגם agentic, ויש משימות שרצות עליו ביעילות רבה יותר. מה שחסר לדבריו הוא "מודל ה-Governance הנכון".
ב-Melio עובדים עם שלוש שכבות: architecture כתשתית, business כדי לשמור על הרשאות ולוודא שבעלי העניין מתואמים, ו-context שמזהה חריגות מהנורמה ומעביר אותן ל-review אנושי. Prashant Gandhi, chief business officer, מסביר שזה מה שמחזיק את התהליך.
והצרכנים? ממשיכים בכל זאת
Alex Johnson, מייסד Fintech Takes, מצביע על סקרים: צרכנים אולי "שונאים AI", אבל "לא ראיתי שום ראיה שזה עצר אותם מלהשתמש במוצר".
מי אשם כשהסוכן משתולל?
בפאנל השני ישבו יו"ר ה-FDIC, Travis Hill, ו-Yoshi Yokokawa, מייסד-שותף ומנכ"ל Alpaca. Hill מזכיר שקל היום להעביר כסף בין בנקים — וככל שסוכני AI מקבלים יותר כוח להזיז כסף, נשאלת השאלה עד כמה מפקידים יוותרו על הסמכות לקבל החלטות בעצמם.
Yokokawa שואל את השאלה הקשה: "מי אחראי כשקורה משהו — כשהסוכן משתולל ומתחיל לבצע פעילות פלילית, או סתם עושה טרייד גרוע ומפסיד כסף?" ב-Alpaca מגבילים מסחר אוטומטי לחלוטין, והוא מזהיר מפני ציפייה שסוכן AI יעשה לכם כסף: "זה מאוד מסוכן".
בצד הרגולטורי, Hill הודה שהנחיות ניהול ה-model risk של ה-FDIC לא חלות כרגע על agentic AI ו-generative AI, בזמן שהסוכנות בוחנת קווים מנחים עתידיים. "זה תחום שמשתנה מהר מאוד", אמר, "צריך להישאר מעודכנים — וגם לחשוב ולפעול בזהירות".
Zach Anderson, chief data and analytics officer ב-J.P. Morgan Payments and Global Banking, סגר את הפער במשפט אחד: קל היום לגרום לבוט לבצע תשלום — "הבעיה היא לעשות את זה אמין ובטוח".
אז הבוט כבר יודע לשלם. מי חותם על ההעברה כשהוא טועה — את זה עוד לא סגרו.