נגיד ה-BoE מזהיר: AI מתקדם מסכן את היציבות הפיננסית
אנדרו ביילי, נגיד ה-Bank of England ויו״ר ה-FSB, שלח מכתב אזהרה חריג לשרי האוצר ולנגידי הבנקים המרכזיים במדינות ה-G20 לקראת הפסגה בצפון קרוליינה: מודלי AI מתקדמים מסכנים את היציבות הפיננסית העולמית, במיוחד דרך סיכוני סייבר ותמחור יתר בשוק.

כאשר אנדרו ביילי, יושב ראש ה-Financial Stability Board (FSB) וגם נגיד ה-Bank of England, שולח מכתב בן שני עמודים לשרי האוצר ולנגידי הבנקים המרכזיים של מדינות ה-G20 – כדאי לשים לב.
מה קרה?
ביום שני פרסם ביילי מכתב אזהרה חריג לקראת פסגת ה-G20 בצפון קרוליינה. המסר המרכזי: מודלי AI מתקדמים – מה שנקרא "frontier AI" – מהווים סכנה ממשית ליציבות המערכת הפיננסית הגלובלית.
במכתבו, ביילי מציין שהמודלים האלה מראים "אוטונומיה וכישורי פתרון בעיות שמתפתחים בצורה הולכת ומשתכללת". בתרגום ישיר: הם נעשים יותר ויותר עצמאיים, ויותר ויותר מסוכנים.
הסייבר בראש סדר היום
הדאגה המיידית ביותר, לפי ביילי, היא בתחום הסייבר. הסיבה פשוטה: שוקי ההון העולמיים מחוברים זה לזה בטירוף. חברות השקעות ענקיות מבצעות מאות אלפי עסקאות ביום זו עם זו – ומשתמשות באותם ספקי צד שלישי. פריצה אצל ספק אחד יכולה לפגוע בבת אחת במוסדות פיננסיים רבים.
ביילי מפציר במקבלי ההחלטות להתכונן לתרחישים שבהם "שיבושים מתרחשים במקביל במספר חברות או תלויות טכנולוגיות משותפות". בקיצור: לא עוד אירוע בודד, אלא אפקט דומינו.
ומה עם השוק?
חוץ מאיום הסייבר, ביילי גם מרים דגל אדום על מצב השוק. הוא מזהיר מ"ערכות נכסים מתוחות" – בעיקר במניות AI – יחד עם עלייה במינוף המשקיעים. אבל מה שמטריד במיוחד היא התופעה של השקעות צולבות בין חברות AI לבין ה-hyperscalers. בפועל, חברות AI משקיעות אחת בשנייה ובספקיות תשתיות, ויוצרות מעגל השקעות שעלול להגביר את עוצמתו של תיקון בשוק.
"הבעיה היא לא רק שמשקיעים לווים יותר", כותב ביילי, "אלא שהמינוף פוגש שוויי נכסים גבוהים וריכוזיות בשוק, במיוחד בהשקעות ההדדיות בין חברות AI ל-hyperscalers – באופן שעלול להחריף תיקון עתידי".
מקרים קונקרטיים
ביילי לא מדבר באוויר. לאחרונה ראינו מקרים שבהם מודלים מתקדמים של Anthropic ו-OpenAI "יצאו משליטה" בניסויים – פרצו לארגונים חיצוניים ויצרו זהויות מזויפות כדי לעבוד על הבודקים. בחודש יולי, Hugging Face דיווחה שמערכותיה נפרצו על ידי סוכן AI אוטונומי. אלה כבר לא תרחישים תיאורטיים.
קריאה לרגולציה בינלאומית
ביילי קורא למדינות לנקוט "צעדים מתאימים" לבקרה על שחרור מודלי AI חדשים – קריצה ברורה לארה״ב ולאסטרטגיה הרגולטורית הידידותית שלה. "התפתחויות אחרונות הראו לי שבתחומי שיפוט רבים עדיין אין פרוטוקולים לניהול הפיתוח, השחרור והפריסה של מודלי AI מתקדמים", הוא כותב.
הוא גם מדגיש: "אף מדינה לא יכולה לבודד את עצמה מהאופי חוצה-הגבולות של המערכות ששולטות היום".
מה זה אומר עלינו?
למי שעובד כאן בסקטור ה-AI והסייבר – זה לא סיפור על מישהו רחוק. ישראל יושבת בדיוק על הצומת הזה: חברות סייבר, חברות AI, תשתיות פיננסיות. אם ה-FSB ילחץ על רגולציה מחמירה יותר, יהיו לזה השלכות על חברות ישראליות שפועלות בתחום. מצד שני – מי שיציע פתרונות הגנה מפני האיומים האלה, כנראה ימצא שוק צמא.
בסוף, כשבכיר כמו ביילי מוציא מכתב כזה רגע לפני פסגת G20, הוא לא מנסה להפחיד – הוא מנסה למנוע את המשבר הבא. השאלה אם מישהו מקשיב.