ה-FCA: מרוץ חימוש מול ה-AI

נשקו של הרגולטור הפיננסי פשוט לא עומד בקצב. זה המסר המרכזי שעולה מדברים של בכירי הבנקאות והרגולציה באירופה, שמדברים לאחרונה בפתיחות על פער הולך וגדל בין ההתפתחות של AI, במיוחד AI "אגנטי" (agentic) שמסוגל לפעול בעצמו, לבין הכללים הקיימים שאמורים לפקח עליו.

מה בעצם קרה כאן?

שורה של דמויות מרכזיות בזירה הפיננסית האירופית – כולל כריסטין לגארד, נשיאת ה-ECB, וניקיל ראטי, מנכ"ל רשות התחרות הפיננסית של בריטניה (FCA) – פרסמו לאחרונה אזהרות ברורות: קבלת ההחלטות המסורתית ברגולציה פשוט איטית מדי.

"טכנולוגיה נעה במהירות מטורפת, ואנחנו צריכים לחשוב אחרת על חלק מהחידושים שאנחנו רואים בתחום ה-AI", אמר ראטי בראיון ל-CNBC. לדבריו, המציאות היא שחלק מהטכנולוגיות האלה "נעות תוך שבועות או חודשים", ומחזורי החקיקה המסורתיים פשוט לא עובדים בקצב הזה. לגארד, מצידה, הזהירה בראיון לעיתון צרפתי ש-AI מהווה "סיכון גדול", בעיקר בשל המהירות שבה מודלים מתפתחים, בעוד ש"אמצעי ההגנה – והמימון הנדרש להם – עדיין לא נמצאו".

למה הכוונה ב-AI "אגנטי"?

זו הנקודה הקריטית. הכוונה היא למערכות AI שיכולות לקשר פעולות זו לזו ולבצע אסטרטגיות מסחר בעצמן, בקצב שיא. שרה ברידן, סגנית נגיד בנק אנגליה, הזהירה בפורום של ה-ECB ב-Sintra שרק הסתמכות על פיקוח אנושי עשויה שלא להספיק יותר. אחד הרעיונות שנשקלים? התקנת "מתגי הרג" (kill switches) שיעצרו מסחר אם מערכות AI אוטונומיות יתחילו להתנהג בצורה בלתי צפויה.

אז ממה כולם מפחדים?

החששות הם כפולים. מצד אחד, מודלי AI יכולים לחזק את ההגנות הסייבר. מצד שני, הם עלולים להפוך את גילוי הניצול של חולשות לקל, זול ומאסיבי הרבה יותר. "ההתפתחויות האחרונות והמהירות ביכולות ה-AI פורצות הדרך הגבירו את הסיכונים ליציבות הפיננסית הקשורים לחוסן סייבר ותפעולי", נכתב בדוח של ועדת המדיניות הפיננסית של בנק אנגליה.

חשש מרכזי נוסף הוא בועת מחירים. בנק להסדרי סליקה בינלאומיים (BIS) כבר הזהיר ש"התלהבות" מ-AI עלולה להוביל ל"תיקון חד" במחירי נכסים, מה שעלול לגרום ל"לולאות משוב מקרו-כלכליות משבשות". ברידן הוסיפה שמימון החוב לאפיקי AI גדל במהירות, מה שמגביר את ההשלכות הפוטנציאליות של נפילה.

ומה ה-FCA רוצה לעשות עם זה?

כאן נכנס לתמונה דוח "Mills Review" של ה-FCA, שפורסם לאחרונה. הדוח מפרט תוכנית פעולה לשנת 2030 ומעלה, מתוך הנחה ש-AI יהפוך ל"כוח מגדיר" בשירותים פיננסיים קמעונאיים. ההצעה הבולטת: להעניק ל-FCA סמכויות חדשות ורחבות יותר, כולל פיקוח ישיר על חברות טכנולוגיה ו-AI ("צדדים שלישיים קריטיים") כדי למנוע מונופולים דיגיטליים, לקדם תחרות ולהגן על צרכנים.

מנכ"ל ה-FCA, שלדון מילס, אמר ל-Financial Times שהרגולטורים צריכים לאמץ AI בעצמם כדי לעמוד בקצב. "זהו מרוץ חימוש", הוא אמר. לדבריו, "בינה מלאכותית תשנה את השירותים הפיננסיים עד 2030".

מה הלאה?

ה-FCA התחייב להקים בדיקה נוספת תוך שישה חודשים, כדי לבחון את הנזק הפוטנציאלי לצרכנים פרטיים שמשתמשים ב-AI כדי לנהל את הכספים שלהם. גם בנק אנגליה עורך בדיקה, שאמורה להסתיים עד סוף ספטמבר, כדי לראות אם הקלות בדרישות ההון (שהוא מתכנן, כדי לתמוך בצמיחה) עלולות להגביר סיכונים הקשורים ל-AI, כמו מינוף שוקי מופרז.

בסופו של דבר, המסר ברור: הקרב על עתיד הכלכלה הפיננסית לא יוכרע רק על ידי חברות הטכנולוגיה. הוא יוכרע על ידי הרגולטורים שיצליחו – או ייכשלו – להדביק את הקצב. העתיד שייך למי שיפעילו את ה-AI, אבל הכלכלה הפיננסית היציבה תלויה במי שילמדו לפקח עליו.