אחרי הכאוס עם Anthropic: ממשל טראמפ שוקל רגולטור AI חדש

זוכרים את הבלגן של יוני? Anthropic השיקה שני מודלים מתקדמים – Fable ו-Mythos – ולילה אחד ממשל טראמפ הקפיא אותם בצו בקרת יצוא, בלי שום נהלים מוגדרים. אחרי שבועות של משא ומתן הם חזרו לאוויר, אבל התחושה בקרב חברות AI בארה"ב הייתה שמשהו כאן שבור. עכשיו הבית הלבן רוצה למנוע את הכאוס הבא: גוף פיקוח חדש שיבדוק כל מודל AI מתקדם לפני שהוא מגיע למשתמשים.

מה מציעים בפועל?

לפי דיווח של בלומברג, מזכיר האוצר האמריקאי סקוט בסנט מפתח הצעה להקמת גוף עצמאי שיפעל תחת ה-SEC – הרשות האמריקאית לניירות ערך. הגוף הזה מתוכנן במתכונת של FINRA, הרגולטור הפרטי שמפקח על תעשיית הברוקראג' בארה"ב.

איך זה אמור לעבוד? חברות שמפתחות מודלים מתקדמים יצטרכו לשלוח אותם לבדיקה 30 יום לפני פרסום. מומחים בגוף החדש יסקרו סיכונים בתחום הסייבר, האיומים הביולוגיים ויכולות הטעיה. בשלב הראשון ההשתתפות תהיה וולונטרית – אבל הכוונה היא להפוך אותה לחובה ברגע שפרוטוקולי הבדיקה יוכיחו את עצמם.

ההצעה עדיין בבחינה בבית הלבן, אצל ראשת הסגל סוזי וויילס. טראמפ עצמו עדיין לא ראה את התוכנית. דמיס חסביס, מנכ"ל Google DeepMind, כבר יצא פומבית בעד גוף פיקוח אמריקאי מוביל – מה שנותן לתוכנית רוח גבית מתעשיית ה-AI עצמה.

למה FINRA?

הרעיון לחקות את FINRA לא מגיע סתם ככה. יש כמה יתרונות ברורים למי שמחפש מודל פיקוח על טכנולוגיה מורכבת:

גיוס כוח אדם איכותי. גוף שמתוקצב מאגרות תעשייתיות, ולא מתקציבי קונגרס, יכול לשלם משכורות תחרותיות ולגייס מהנדסים וחוקרים שמבינים את המערכות שהם בודקים. FINRA מפקחת על כ-3,250 חברות ניירות ערך ויותר מ-630,000 נציגים רשומים – כוח אדם מקצועי בקנה מידה שה-SEC לעולם לא הייתה יכולה להרשות לעצמה.

מהירות. גוף פרטי יכול לעדכן את ספר החוקים שלו מהר יותר מסוכנות ממשלתית שחייבת לעבור תהליך מנהלי מלא. בתחום שבו היכולות של מודלים משתנות כל כמה חודשים, זה יתרון משמעותי.

חיזוי. חברות ידעו מי בודק את המודלים שלהן, לפי אילו קריטריונים ובאיזה לוח זמנים. זה מחליף מצב שבו החלטות פרסום תלויות בהתערבויות מאולתרות של הבית הלבן – כמו מה שראינו עם Anthropic.

שיתוף התעשייה. חברות מקבלות קול בעיצוב התקנים שהן חייבות לעמוד בהם, מה שמעודד שיתוף פעולה במקום התנגדות.

מה הבעיה עם המודל?

לפני שמחקים מודל, כדאי לבדוק איך הוא עובד במציאות. ופה מתחילות הצרות.

נציבת ה-SEC, הסטר פירס, חקרה את FINRA לעומק עוד לפני שמונתה לתפקיד. במחקר שפרסמה ב-2015, היא טענה שהגוף הזה תקוע במקום לא נוח: הוא לא באמת רגולטור עצמי של התעשייה – כי מועצת המנהלים שלו מכוונת נגד התעשייה, עם רוב של נציגים שאין להם קשרים לתחום. אבל הוא גם לא סוכנות ממשלתית אמיתית – כי הוא לא כפוף לדרישות שקיפות, אין חובת פרסום הערות ציבור, ואין פיקוח של הקונגרס. בקיצור: FINRA מפעילה כוחות ממשלתיים בלי המגבלות שחלות על סוכנויות ממשלה.

ומה קרה כשהמודל הזה נוסה במציאות?

FINRA קמה ביולי 2007, חודשים ספורים לפני שהמערכת הפיננסית החלה לקרוס. היא ירשה עשרות שנות ניסיון פיקוחי – כולל אחריות על חברות כמו Bear Stearns, Lehman Brothers, Merrill Lynch – ומדוף.

במקרה של מדוף, FINRA טענה שהתרמית קרתה בתחום הייעוץ ההשקעתי, מחוץ לסמכות שלה. אבל מומחה למשפט ניירות ערך העיד בפני הסנאט שפעילות הברוקראג' של מדוף הייתה בהחלט בתחום הסמכות של FINRA – ושחברת הברוקראג' ש-FINRA בדקה במשך שנים הייתה אותה חברה שכביכול אחסנה את הנכסים של קרבנות מדוף. נכסים שלא היו קיימים.

סיפור אחר, אפילו יותר מביך: ניירות ערך במכרז (auction rate securities). וול סטריט מכרה אותם ללקוחות כהשקעה בטוחה ונוזלית כמו מזומנים. זה עבד כל עוד המכירות הפומביות פעלו. כשחברות הברוקראג' הפסיקו להציע הצעות – כפי שעשו בשקט במשך שנים – השוק קפא בתוך ימים, ועשרות אלפי משקיעים גילו שהם לא יכולים למכור את מה שנאמר להם שזה שווה מזומן.

ומה FINRA עשתה? היא מכרה את תיק הניירות האלה בשווי 647 מיליון דולר ב-2007, חודשים ספורים לפני הקריסה של פברואר 2008. המשקיעים, שלא קיבלו שום אזהרה, נשארו עם עשרות מיליארדים נעולים. FINRA טענה שזו הייתה ניהול שגרתי של התיק. לא הוכחה עבירה. אבל כל קריאה של האירוע הזה מחמיאה: או שהגוף הרגולטורי הרוויח ממה שפקחיו ראו באופק, או שמנהלי הכספים שלו שפטו כמסוכן מדי את אותם מכשירים שתוכנית הרגולציה שלו אפשרה לברוקרים למכור כבטוחים.

גוף תקנים או רגולטור?

יש כאן גם בעיה מושגית עמוקה יותר. הדיווחים על ההצעה מתארים את הגוף החדש במקביל כגוף תקנים וכרגולטור. חסביס מדבר על ארגון תקנים בינלאומי. בלומברג מתאר גוף עם כוח לחסום פרסום מודלים. אלה מוסדות שונים לחלוטין.

ארגוני תקנים בתעשייה פועלים על בסיס וולונטרי. התקנים שלהם לא מחייבים אף אחד, אלא אם ממשלה או לקוח דורשים אותם בנפרד. גופים במתכונת FINRA הם יצורים אחרים לגמרי: כדי לפעול בתעשייה, חייבים להיות חבר בארגון. הכללים שלהם נושאים כוח רגולטורי, והם יכולים לגרש חברה מהתעשייה.

כוח כפייתי משנה תמריצים. גוף תקנים לא יכול למנוע מהמוצר לעלות לשוק. גוף במתכונת FINRA – כן. זה שימושי כשמודל באמת מסוכן. אבל מודל של "אישור כניסה" כזה טומן בחובו סכנות: בודק יחיד מפתח נקודות עיוורון, ואין בודק מתחרה שיתפוס מה שהוא מפספס. וההיסטוריה של רגולציית התרופות מראה שרגולטורים שיטתיים בזהירות-יתר: מי שמאשר מודל שמאוחר יותר גורם נזק מקבל כותרות ושימועים. מי שמעכב מודל מועיל – לא מקבל כלום, כי היתרונות שלא מגיעים לעולם הם בלתי נראים.

המערכת הקיימת – והיא לא רקה

הדיפולט הזה מתעלם מכך של-AI כבר יש מערכת צפופה ופעילה של ארגוני תקנים, חלקם ממשלתיים וחלקם פרטיים – כולם וולונטריים:

• NIST פרסם בינואר 2023 מסגרת וולונטרית לניהול סיכוני AI, שחברות וגופים ממשלתיים ברחבי העולם כבר משתמשים בה.
• ISO/IEC 42001, שפורסם בדצמבר 2023, הוא התקן הבינלאומי הראשון למערכות ניהול AI. חברות כבר יכולות לקבל הסמכה מצד שלישי.
• IEEE פרסמה סדרת תקנים 7000 שמכסה שקיפות, הטיית אלגוריתמים ופרטיות נתונים.
• MLCommons, קונסורציום מדידת ביצועים בתעשייה, פיתח את מדד AILuminate שמכסה 12 קטגוריות סיכון.
• Frontier Model Forum, שהוקם ב-2023 על ידי Anthropic, Google, Microsoft ו-OpenAI, מפתח בדיקות בטיחות ומשתף מחקר.
• Partnership on AI, קואליציה של אקדמיה, חברה אזרחית, תעשייה ותקשורת, מפתחת הנחיות לפרקטיקה אחראית.

הארגונים האלה כבר מבצעים את רוב הדברים שההצעה של הממשל מתכננת: מפתחים שיטות הערכה, מפרסמים תקנים טכניים, מעודדים תאימות, ומפיצים שיטות עבודה מומלצות. תקינה היא במיוחד חשובה בתחום כמו AI, כי הידע הרלוונטי יושב בתוך המעבדות – לא בוושינגטון.

אז מה באמת צריך לעשות?

בשדה מורכב ומשתנה כמו AI, ארגוני תקנים הם תגובה מוסדית טבעית. הם מעודדים למידה, ניסוי ותיאום, תוך שהם נשארים גמישים מספיק כדי לעמוד בקצב של הטכנולוגיה. הרבה פחות ברור ש-AI צריך רגולטור במתכונת FINRA עם סמכות רשמית וגיבוי של ה-SEC – סוכנות שהמומחיות שלה היא בשוקי ניירות ערך, לא בלמידת מכונה.

הממשלה לא חסרת כלים: פיקוח יצוא הקפיא את המודלים של Anthropic בין לילה. הסמכויות האלה יהיו זמינות בכל משטר פיקוח שיקום. מה שצריך זה נהלים ברורים יותר סביב הסמכות הקיימת – לא מוסד חדש שכל מודל חייב לעבור דרכו.

ממשל טראמפ מגיע לרעיון הזה עם כוונה טובה: למנוע כאוס כמו זה שראינו עם Anthropic. אבל ההיסטוריה של FINRA מציעה זהירות. לפני שמקימים עוד רגולטור חצי-ממשלתי, כדאי לשאול אם מערכת התקנים שכבר קיימת יכולה להשיג את רוב מה שההצעה מנסה להשיג – עם יותר שקיפות ופחות ביורוקרטיה.

מה שבטוח: מישהו בוושינגטון למד את הלקח – הפעם, אולי, לפני האירוע הבא.