ביילי: חייבים לשמור על הזכות להתערב במערכות AI

דמיינו מודל AI מתפתח כל כך מהר, עד שהוא הופך ל״סגור לולאה״ – מנהל את עצמו בלי אפשרות להתערבות חיצונית. זה הסיוט שאליו מכוונים דבריו של נגיד הבנק המרכזי הבריטי, אנדרו ביילי, על הצורך לשמור על ״זכות ההתערבות״ במערכות AI מתקדמות.

ביילי טוען שהסיכונים הנובעים מההתקדמות המהירה של מודלי AI מתקדמים הם ״אמיתיים ומשמעותיים יותר ויותר״, ושיש עלייה ב״היקף ובמורכבות איומי הסייבר על המערכת הפיננסית״. בפועל? זה עלול לאיים על תשלומי כרטיסי אשראי יומיומיים, עסקאות בנקאיות ומסחר במניות ובאג״ח – דבר שכולנו נוגעים בו, בין אם אנחנו עובדים בפינטק או סתם משלמים על קפה.

למה לא רגולציה?

למרות הדחיפות, ביילי לא קורא לריסון רגולטורי כצעד ראשון. ״רגולציה, לדעתי, היא לא המקום הנכון להתחיל בו״, הוא כותב. במקום זאת, הוא מאמין ש״נקודת התחלה הגיונית״ היא בדיקות קפדניות של מודלים חדשים כדי להבין את ההתנהגות שלהם ולזהות ״נקודות התערבות אמינות״. הרעיון הוא להגיע לבעיות לפני שקובעים גבולות – גישה שמתאימה לעולם ה-AI, שבו כולם מדברים על בדיקות בטיחות כחובה.

חיות החוב: 450 מיליארד דולר על הכף

במקביל, הוועדה הפיננסית של הבנק מזהירה מערימת חובות AI שהולכת וגדלה. לפי הנתונים, שחקנים גדולים בתחום צברו חובות בהיקף של 450 מיליארד דולר בין ינואר לספטמבר 2026 – סכום שכבר עוקף את 333 מיליארד הליש״ט של ממשלת בריטניה ל-2026 כולה. מה זה אומר? משקיעים כמו קרנות גידור ומנהלי נכסים חשופים כעת לגורלן של חברות ה-AI, שעדיין לא הציגו רווחים. החשש הוא שהגידול הזה מרחיב את החשיפה של שוקי ההון להתפתחויות ב-AI, ויוצר סיכונים הקשורים זה בזה.

ההקשר הרחב יותר

דבריו של ביילי מגיעים על רקע דיאלוג גלובלי על סיכוני AI. לאחרונה, ראשי חברות כמו Anthropic ו-OpenAI קראו להאט את הפיתוח, ול-CNN נמסר כי OpenAI אף עצרה את שחרורו של מודל חדש מטעמי בטיחות. במקביל, בריטניה כבר הקימה את ה-AI Security Institute, שביילי מציין כ״עבודה חשובה״ שעשויה לתרום לסטנדרטים. אבל הוא מדגיש: ״יש לזרז את קצב ההתקדמות״.

בסופו של דבר, המסר של ביילי מאוזן: היתרונות של AI הם ״עצומים״, אבל אי אפשר להתעלם מהסיכונים. אז מה נשתנה? עבור הישראלים בתעשיית ה-tech, זו תזכורת שפיתוח AI לא קורה בוואקום – ההחלטות בלונדון ובוושינגטון עשויות להשפיע על העובדים בתל אביב, בין אם דרך שוקי ההון או דרך הרגולציה העתידית.