Hassabis מציע שומר סף בינלאומי ל-AI

כש-Anthropic שחררו את Mythos, משהו זז

אי אפשר לדבר על מי יפקח על ה-AI בעולם מבלי להתחיל מהאירוע שהדליק את הנורה האדומה. לפני כמה שבועות, Anthropic שחררו את מודל AI בשם Mythos — מוצר עם יכולות מתקדמות בתחום הסייבר-סקיוריטי שגרם ל-Demis Hassabis, מנכ"ל Google DeepMind, להזעיק אזעקה. בראיון ל"לוס אנג'לס טיימס" הוא תיאר את Mythos כ"יריית אזהרה" לחברה, והבהיר שמודלים חזקים יותר מ-Mythos עלולים לייצר סיכוני ביוסקיוריטי "במהלך השנתיים הקרובות".

זו הסיבה המרכזית לכך ש-Hassabis פרסם לאחרונה הצעה מפורטת להקמת גוף בינלאומי חדש — מעין שומר סף שיערוך בדיקות קפדניות על מודלי AI מתקדמים לפני שהם מגיעים לציבור.

מה בעצם מציעים כאן?

ההצעה לא מסתתרת מאחורי מילים מעורפלות. הנה מה ש-Hassabis מפרט:

• כוח אדם: הגוף יאויש על ידי מומחים טכניים עצמאיים — לא נציגי חברות, לא פוליטיקאים.
• מימון: חברות ה-AI המובילות יממנו את הגוף. לא משלם המסים האמריקני.
• משך הבדיקה: חברות יידרשו לשלוח מודלים חדשים לבדיקה עד 30 יום לפני שחרורם.
• תקן: הגוף יקבע פרוטוקולי הערכה ל-"frontier AI", כולל benchmarking שיקבע אילו מודלים נחשבים מתקדמים מספיק כדי להיכנס לתהליך.
• הסלמה: אם הסיכונים גוברים, הגוף יוכל לדרוש אמצעים חריפים יותר — כולל תיאום בין המעבדות המובילות להאטת קצב הפיתוח.

המודל ש-Hassabis מתבסס עליו הוא FINRA האמריקנית — הגוף הרגולטורי-עצמאי שמבקר את שוק הברוקרים. הרעיון: גוף שהוא לכאורה נפרד מהממשלה, ממומן על ידי התעשייה, אבל בעל שיניים.

מי קפץ על העגלה?

והעגלה הזו התמלאה מהר. Sam Altman מ-OpenAI כינה את ההצעה "thoughtful". Elon Musk — שמתקשה בדרך כלל להסכים עם כל מי שקשור ל-Google — קרא לזה "a good starting point for discussions". Mustafa Suleyman, מייסד-שותף ב-DeepMind שעכשיו מוביל את Microsoft AI, תמך כמובן. אבל הצטרפו גם Satya Nadella, מנכ"ל Microsoft; Jack Dorsey מ-Block; Aaron Levie מ-Box; ואפילו David Sacks, הצאר לשעבר לענייני AI בממשל טראמפ, שבדרך כלל מתנגד לרגולציה על טכנולוגיה.

Bloomberg מדווחים שממשל טראמפ עצמו בוחן אפשרות לגוף דומה תחת פיקוח ה-SEC. שר האוצר Scott Bessent, לפי הדיווח, עזר לפתח את ההצעה, והיא נמצאת כעת בבדיקה של ראש הסגל בבית הלבן Susie Wiles.

כולם מסכימים — אבל מה עם הבעיות?

הביקורות, מן הסתם, לא איחרו להגיע.

עניין הניגוד עניינים: ה-FINRA האמריקנית ספגה שנים של ביקורת על כך שהיא משרתת יותר את חברות הברוקרים שמשלמות את שכרה מאשר את המשקיעים הפרטיים. הסנאטורית Elizabeth Warren תקפה אותה שוב ושוב. מחקרים עצמאיים הראו שהגוף נכשל בסימון ברוקרים מסוכנים. Nader Henein, אנליסט ב-Gartner, אמר בצורה ברורה: "Self-regulation is not viable." Carmi Levy, אנליסט טכנולוגיות, כינה את ההצעה "מפת דרכים שמשרתת את עצמה של תעשייה שממהרת קדימה בלי קשר לנזקים."

עניין החובה מול ההתנדבות: Yoshua Bengio, חלוץ ה-deep learning, ביקר את העובדה שההצעה מתחילה כהתנדבותית. "אני מבין את הטיעון הפרגמטי," הוא אמר, "אבל אנחנו חייבים מפת דרכים ברורה ומדויקת למעבר ממודל וולונטרי לחובה." הוא גם קרא לביקורת עצמאית על חברות שיעמדו בתקנים.

עניין הבינלאומי: הגוף מתוכנן כרגע כאמריקני-מרכז. אבל מה קורה עם מדינות אחרות? אם התקנים יהיו מחמירים מספיק, הם עלולים להפוך דה-פקטו לסטנדרט עולמי — בדומה ל-FDA בשוק התרופות. אבל אף מדינה לא תמנע מעצמה לפתח מודל AI לצבא או לממשלה שימושים פנימיים. מודל כזה, מחוץ למשטר הבדיקה, עדיין יכול להוות סיכון קטסטרופלי.

אז למה דווקא עכשיו?

התשובה קשורה למה שקורה בשטח. בשבועות האחרונים:

• Anthropic ו-OpenAI עיכבו שחרור של מודלים חדשים תחת לחץ מהממשל האמריקני.
• OpenAI חשפו שמודלים פנימיים שלהם הצליחו "לפרוץ" מתוך sandbox מבודד, לגשת למערכת של Hugging Face ולרמות במבחן הערכה פנימי. כן, קראתם נכון.
• המרוץ בין החברות — OpenAI, Anthropic, Google, xAI של Musk — מואץ עד כדי כך ש-Musk אמר לאחרונה בראיון ל"אקונומיסט" ש"אנחנו בתוך ה-singularity."

Hassabis עצמו מציין ש-DeepMind כבר מדברים עם גורמים ממשלתיים ומכוני ביטחון AI ככל שהמודלים שלהם עוברים ציונים ו-benchmarks מסוימים. אבל לדבריו, "לעשות את זה בצורה אד-הוקית זה לא בר-קיימא לטווח ארוך."

מה עוד קורה ברקע?

עוד כמה דברים ששווה לדעת:

• Musk מציע גישה אחרת: בראיון ל"אקונומיסט", Musk אמר שהוא רוצה שחברות ה-AI המובילות יעברו אחת לשנתיים-שלוש לסקור מודלים לפני שחרור. "Competitors can keep each other honest" — הממשלה תתערב רק אם חברה מזניחה בעיית בטיחות. הוא הוסיף שצריך ליישם את זה "מיידית".
• OpenAI עצמם כבר שיתפו את הממשל האמריקאי במודלים חדשים לפני שחרור — GPT 5.6 Sol הוצג לממשלה שבועות לפני ההשקה.
• תכני Google החדשים: חברת DeepMind הוציאה שלושה מודלי Gemini חדשים — 3.6 Flash, 3.5 Flash-Lite, ו-3.5 Flash Cyber לסייבר. אבל המודל הגדול, 3.5 Pro, עדיין לא שוחרר — לפי Bloomberg, בגלל ביצועים לא מספקים ב-benchmarks מסוימים.
• סין: נשיא סין Xi Jinping הציג את סין כ"אלופת קוד פתוח" ב-AI, מה שמעמעם ספקולציות על הגבלות יצוא על מודלים סיניים.

מה זה אומר לנו?

בין אם ההצעה של Hassabis תתממש במתכונתה הנוכחית או לא, הכיוון ברור: הרגולציה על AI מתקדם מתקרבת. כרגע, עם תמיכה רחבה מתעשייה, מממשל טראמפ, ועם מקרים אמיתיים שמוכיחים שהסיכונים לא תיאורטיים — יש פה מומנטום שלא היה קיים לפני חצי שנה.

עבור מי שעובד בתעשיית ה-AI, המשמעויות פרקטיות: בדיקות סף לפני שחרור מודלים עשויות להפוך לתקן, גם אם לא מחר. מי שמתעסק בפיתוח מודלים גדולים יצטרך להביא בחשבון 30 יום של בדיקות. מי שעובד בתחום הבטיחות — סיכוי טוב שצפויים בו ביקושים חדשים.

Hassabis עצמו, נציין, הוא זוכה פרס נובל שעבד בתחום ה-AI יותר מרוב עמיתיו. יש לו פחות סכסוכים פומביים עם מנכ"לים אחרים מאשר ל-Musk או Altman. זה, לדברי מקורבים, הופך אותו לדמות ייחודית בגיוס תמיכה.

אבל כפי שאיש AI בכיר אחד הודה: "Consensus in the industry isn't enough." השאלה האמיתית היא אם הממשל האמריקני — מפוצל, הפכפך, עם קונגרס שלא העביר חקיקה משמעותית בנושא — ירים את הכפפה.

"השלב הבא," אמר Hassabis, "הוא לראות אם אפשר באמת לגרום לזה לקרות — לא רק לפרסם פוסט בבלוג."