Hassabis מציע משמר AI עולמי בהובלת ארה"ב
מנכ"ל DeepMind, Demis Hassabis, קורא להקמת גוף פיקוח עולמי בהובלת ארה"ב, שיבחן מודלי AI מתקדמים לפני שחרורם ויאפשר האטה קולקטיבית אם יימצאו מסוכנים. ההצעה נולדת מתוך התחושה ש-AGI קרוב, ולוח הזמנים השאפתני מכוון להקמה עוד השנה.
דמיינו עולם שבו מודל AI חדש לא יכול לצאת לשוק עד שגוף בינלאומי בודק שאין לו יכולות ביולוגיות או גרעיניות מסוכנות. זהו הפרסום של Demis Hassabis, מנכ"ל ומייסד Google DeepMind, שפרסם השבוע מניפסט אישי וקורא להקמת גוף פיקוח עולמי שיתבסס על מודל רגולטורי קיים מתחום הפיננסים.
מה קרה? Hassabis קורא לארה"ב להוביל יוזמה של גוף פיקוח בינלאומי ל-AI שיהיו לו סמכויות אמיתיות. הגוף יוכל לבחון מודלי AI מתקדמים לפני שחרורם לשוק, ואם יימצאו מסוכנים, לתאם האטה קולקטיבית בתעשייה. לדבריו, זה חיוני כי בינה מלאכותית כללית (AGI) נמצאת "כנראה רק כמה שנים" משם.
למה זה חשוב עכשיו? ההצעה מגיעה על רקע אירועי עבר שממחישים את הצורך בפיקוח. רק בחודש שעבר, ממשל טראמפ הקפיא בפתאומיות את המודלים של Anthropic, מה שהוביל לשבועיים של משא ומתן ללא כללים ברורים. OpenAI, כדי למנוע גורל דומה, הסכימה להגביל את GPT-5.6 לשותפים מאושרים בלבד. Hassabis טוען שגופים כאלה, כמו ה-FINRA בוול סטריט, יכולים לספק יציבות וביטחון.
איך זה יעבוד? ההצעה מציגה מודל מעשי: חברות המפתחות מודלים חזקים יצטרכו לשתף את המודלים שלהן עם הגוף החדש, עד 30 יום לפני השחרור, לצורך בדיקות בטיחות. הבדיקות יתמקדו ביכולות סייבר, ביולוגיות ו"הטעיה". Hassabis מתאר גוף עם דירקטוריון עצמאי ברובו, שיכלול מומחים טכניים מובילים, נציגי ממשלה וקהילת הקוד הפתוח. הרעיון הוא שהגוף הזה, בהובלה אמריקאית, יגדיר תקנים בינלאומיים, כולל למודלים ממדינות אחרות.
תגובות ולו"ז לדברי Hassabis, הוא כבר קיים שיחות עם ממשל טראמפ, מנהיגי חברות אחרות וגורמים אירופאים, ומקבל "תגובות חיוביות מאוד". הוא מציב לוח זמנים אגרסיבי: להקים את הגוף לפני סוף השנה הנוכחית. מנהיגי חברות אחרות, כמו Dario Amodei מ-Anthropic, מסכימים עקרונית על הצורך ברגולציה, אם כי הם עשויים להציע מודלים שונים.
מה על הכף? Hassabis מסכם בטון דרמטי שאנחנו "עומדים בתחילתו של עידן חדש" וש"מצאנו דרך לגרום לחול לחשוב. זה נס." אבל הנס הזה דורש אחריות. אם גוף כזה יקום, הוא יכול לשנות את כללי המשחק בעולם ה-AI, להטיל מגבלות חדשות על פיתוחים מתקדמים, ולהפוך את תהליך היציאה לשוק למסודר יותר. בעולם שבו קצב החדשנות מהיר, זה ניסיון לשים גבולות לפני שיהיה מאוחר מדי.
בסופו של דבר, מי יודע – אולי בעוד כמה שנים, המודל הבא שלכם יעבור בדיקה כזו לפני שתראו אותו. בינתיים, אפשר רק לקוות שהמו"מ יצליח.