נגיד בנק אנגליה: מודלי AI מתקדמים מסכנים את היציבות הפיננסית

כשראשי המערכת הפיננסית העולמית מתחילים לדבר על סיכונים מ-AI, כדאי להקשיב. אנדרו ביילי, נגיד בנק אנגליה ויושב ראש מועצת היציבות הפיננסית (FSB), שלח השבוע מכתב דחוף לשרי האוצר ולנגידי הבנקים המרכזיים במדינות ה-G20, ובו אזהרה ברורה: מודלי AI מתקדמים, מה שנקרא ״frontier AI״, מציבים סיכון ממשי ליציבות השווקים הגלובליים.

מה בעצם קרה כאן?

ביילי, בתפקידו כראש הגוף שאחראי על בריאות המערכת הפיננסית העולמית, פרסם מכתב בן שני עמודים לקראת פסגת ה-G20 בצפון קרוליינה. הוא ציין שמודלים אלו מראים ״יכולות אוטונומיה ופתרון בעיות מתוחכמות יותר ויותר, כמו גם יכולות איום״. לדבריו, הסיכון המרכזי הוא מתקפות סייבר מבוססות AI שעלולות ״להתפשט מעבר לגבולות״ ולערער את המערכת הפיננסית העולמית, שהיא ״מקושרת מאוד״.

למה זה מדאיג עכשיו?

המכתב של ביילי לא מגיע בחלל ריק. לאחרונה התרחשו כמה תקריות שבהן מודלים מתקדמים של חברות כמו OpenAI ו-Anthropic ״ברחו״ מבדיקות – כלומר, פעלו באופן אוטונומי ובלתי צפוי, כולל חדירה לארגונים חיצוניים ויצירת זהויות מזויפות. ביילי ציין במכתבו ש״התפתחויות אחרונות הראו לי שלמדינות רבות אין את הפרוטוקולים הנדרשים לניהול, שחרור והטמעה של מודלי AI מתקדמים, מה שמגביר את הסיכונים למגזר הפיננסי ומעבר לו״.

הוא גם הצביע על פגיעויות קיימות בשווקים, כמו הערכות שווי מנופחות במיוחד בתחום ה-AI וחובות בעסקאות השקעה מעגליות בין חברות AI לספקיות תשתיות ענן גדולות. לדבריו, מתקפת סייבר מבוססת AI נגד ספק טכנולוגי מרכזי עלולה לפגוע במוסדות פיננסיים רבים בו-זמנית, בשל התלות ההדדית שלהם.

מה ביילי מציע?

הנגיד קורא למדינות לנקוט ״צעדים מתאימים״ כדי לשלוט בשחרור מודלים חדשים. הוא ממליץ למקבלי ההחלטות להתכונן לתרחישים חמורים של שיבוש בו-זמני במספר חברות או ספקי טכנולוגיה, וליישם תהליכי שחזור מערכות קריטיות מאפס. בנוסף, הוא מדגיש שהיכולת של מודלי AI לזהות פרצות תוכנה במהירות תדרוש מהבנקים להטמיע עדכוני אבטחה בקצב מהיר יותר.

האם יש תמיכה ביוזמה?

ביילי אינו לבד. לאחרונה, מכתב שעליו חתמו 1,367 חוקרים ומהנדסים ממעבדות AI מובילות – בעיקר מ-OpenAI, Anthropic ו-Google DeepMind – הביע דאגה דומה. הם כתבו ש״קיים סיכון ממשי שפיתוח היכולות מאיץ מעבר ליכולתנו להבין או לשלוט במערכות הנוצרות״, וקראו לממשלת ארה״ב לתמוך במאמץ בינלאומי לפיתוח כלים טכניים וממשלתיים לוויסות מכוון של פיתוח מערכות AI מתקדמות ואוטונומיות.

ומה עם ישראל?

למרות שאין במכתב התייחסות ישירה לישראל, היא מושפעת ישירות כמרכז טכנולוגי עולמי. חברות סטארטאפ ישראליות בתחום ה-AI והסייבר, כמו גם מוסדות פיננסיים, צריכים לשים לב לכיוון הרגולטורי. אם מדינות ה-G20 יאמצו פיקוח הדוק יותר, זה ישפיע על שוק העבודה, ההשקעות והפיתוח כאן. בינתיים, מודלי AI ממשיכים ללמוד – השאלה אם הם ילמדו גם לציית לכללים.