האם FINRA הוא המודל שה-AI צריך?

בשבועות האחרונים, אחרי פרשת חסימת המודלים של Anthropic, הבית הלבן מנסה לפייס את התעשייה. לפי דיווחים, שר האוצר האמריקני Scott Bessent מוביל יוזמה חדשה: הקמת רגולטור עצמאי לבינה מלאכותית, בדומה ל-FINRA, שמפקחת על עולם הברוקראג'. הרעיון הוא גוף שיתוקצב מדמי חברות בתעשייה ויפעל תחת ה-SEC, שיבחן מודלי AI מתקדמים (frontier models) למשך 30 יום לפני שחרורם לציבור, ויסנן סיכוני סייבר, ביולוגיה והונאה.

מבחינת חברות ה-AI, הפתרון נשמע אידיאלי. אחרי הכאוס של יוני, כשצו שלטוני הוריד מהאוויר את המודלים Fable ו-Mythos של Anthropic בן לילה, ללא כללים ברורים, כולם רוצים יציבות. גוף רגולטורי קבוע, עם תהליך מוסדר, ייתן לחברות ודאות – הן ידעו מי בוחן אותן, לפי אילו קריטריונים ובאיזה לוח זמנים. לגוף פרטי כזה, שממומן מכספי התעשייה, יהיה קל יותר לגייס את המוחות הטובים ביותר – מהנדסים וחוקרים שמבינים באמת את המערכות שהם אמורים לפקח עליהן, משהו שסוכנויות ממשלתיות מתקשות לעשות בתקציביהן הקפוצים.

היסטוריה בעייתית: מה באמת קרה ב-FINRA?

אך לפני שארצות הברית מאמצת את הפורמט הזה, כדאי לבחון את הביצועים של המודל המקורי. מבקרים חריפים טוענים ש-FINRA תקועה במקום מוזר: היא לא באמת רגולטור תעשייתי עצמאי, כי לחברות החברות יש שליטה מוגבלת בה. אך היא גם לא סוכנות ממשלה רגילה, ולכן היא חומקת ממנגנוני הביקורת הרגילים כמו חוק חופש המידע (FOIA) או חובת שקיפות.

Commissioner Hester Peirce של ה-SEC, שביקרה את המבנה הזה עוד לפני שמונתה לתפקיד, טענה ש-FINRA "מפעילה כוחות ממשלתיים ללא דרישות ההליך והגילוי שבהן רשות רגולטורית ממשלתית הייתה מוגבלת."

ומה לגבי התוצאות? ההיסטוריה של FINRA צריכה להדיר שינה מעיני מי שחושב על הקמת גוף כזה ל-AI. הארגון קם ב-2007, חודשים ספורים לפני פרוץ המשבר הפיננסי העולמי. הוא ירש פיקוח על חברות כמו Bear Stearns, Lehman Brothers וחברת ההשקעות של Madoff – שמות שמתקשרים ישירות לכישלונות הגדולים ביותר של אותה תקופה.

דוגמה בולטת נוספת היא פרשת אגרות החוב למכרז (auction rate securities). חברות וול סטריט מכרו אותן ללקוחות כהשקעה בטוחה ונזילה כמו מזומן. כאשר הברוקרים הפסיקו להציע הצעות שקטות במכרזים, כפי שעשו במשך שנים, השוק קפא, ומשקיעים גילו שאינם יכולים למכור את "המזומן" שלהם. במקרה הזה, ל-FINRA עצמה היה מזל – היא מכרה את תיק אגרות החוב שלה בסך 647 מיליון דולר ב-2007, חודשים ספורים לפני הקפיאה. בין אם מחלקת ההשקעות שלה ראתה את הנולד, ובין אם מנהלי הכספים שלה שפטו כמסוכנים מדי את אותם המכשירים שתוכנית הרגולציה שלה אפשרה לברוקרים למכור – התוצאה אינה מחמיאה.

רגולטור מול גוף תקנים: לא אותו דבר

יש הבדל מהותי בין השניים, וערבוב המושגים מעכיר את הדיון. גוף תקנים (standards body) כמו ISO או MLCommons מתבסס על השתתפות וולונטרית. הוא מפתח שיטות עבודה, מפרסם בסט פרקטיקס ומעניק תקנים. חברות מאמצות את התקנים הללו כי הלקוחות, הביטוחים ושותפי העסקים דורשים זאת – מנגנון שוק.

לעומת זאת, ארגון רגולטורי עצמאי בסגנון FINRA הוא חיה אחרת. חברות בו היא תנאי חוקי לעשיית עסקים. יש לו סמכות לאכוף כללים, לבצע בדיקות, להטיל קנסות ואף להוציא חברה מהשוק כולו, תחת המטריה של סוכנות ממשלה. כוח כזה שימושי כאשר מודל מסוכן באמת, אבל הוא גם מרוכז ויכול לייצר סיכונים משל עצמו. אם שיטת הבדיקה שלו תתעוור, אין בודק מתחרה שיתפוס את מה שהוא מפספס.

יש כבר מערכת אקולוגית של תקנים

מה שההצעה הזו מתעלמת ממנו הוא של-AI כבר יש מערכת אקולוגית צפופה ופעילה של גופי תקנים, חלקם ממשלתיים וחלקם פרטיים, וכולם וולונטריים. מכון התקנים הלאומי האמריקאי (NIST) פרסם ב-2023 את מסגרת ניהול סיכוני AI. ארגון התקנים הבינלאומי (ISO) פרסם את התקן הראשון לניהול מערכות AI. גופים כמו MLCommons מפתחים בדיקות ביצועים ובטיחות, ופורום המודלים המתקדמים (Frontier Model Forum), שכולל את Anthropic, Google, Microsoft ו-OpenAI, מפתח בדיקות בטיחות ומשתף מחקר.

יחד, הגופים הללו כבר ממלאים חלק ניכר מהפונקציות שההצעה מבקשת להקים. הם מפתחים מתודולוגיות הערכה, מפרסמים תקנים טכניים, מעודדים תאימות ומשמשים במה לשיתוף פעולה. בעולם טכני מורכב ומהיר כמו AI, גוף תקנים הוא תגובה מוסדית טבעית. הוא מעודד למידה, ניסוי ותיאום, תוך כדי שהוא נשאר גמיש מספיק כדי לעמוד בקצב הטכנולוגיה.

אז מה בעצם קרה כאן?

ממשל טראמפ ראוי לשבח על שהוא מחפש חלופה עקבית לפיקוח מאולתר. האינסטינקט שלו לשלב מומחיות מהתעשייה הוא נכון. אבל ההיסטוריה של FINRA עצמה ממליצה על זהירות. הממשלה אינה חסרת אונים – כפי שהראתה פרשת Fable, צווי יצוא יכולים להקפיא מודלים מסוכנים בן לילה. הפתרון הוא נהלים ברורים יותר סביב הסמכות הקיימת, ולא מוסד חדש שדרכו חייב לעבור כל מודל.

לפני שמקימים רגולטור חצי-ממשלתי נוסף, כדאי לשאול אם מערכת התקנים הקיימת של ה-AI יכולה להשיג את רוב אותם יעדים, עם יותר אחריותיות ופחות בירוקרטיה. בסופו של דבר, הדיון חשוב, אבל עצם קיומו לא הופך את ההצעה לבחירה המוסדית הטובה ביותר.