מנכ״ל DeepMind מציע גוף בינלאומי לבדיקת מודלי AI
מנכ״ל DeepMind, דמיס האסאביס, מציע להקים גוף בינלאומי שיבדוק מודלי AI מתקדמים לפני פרסומם. ההצעה, שהגיעה לאחר דאגות ממודל Mythos של Anthropic, קיבלה תמיכה מסם אלטמן ואילון מאסק. אבל אתגרים פוליטיים בארה״ב, באיחוד האירופי ובסין עשויים להקשות על היישום.
אתם יודעים את הרגע הזה כשאתם שומעים על מודל AI חדש עם יכולות מפחידות, ושואלים את עצמכם: מי בכלל מאשר את זה? אז הנה, מישהו בכיר בתעשייה מנסה לפתור את הבעיה הזו. דמיס האסאביס, מנכ״ל Google DeepMind, פרסם השבוע הצעה לגוף בינלאומי חדש שיבצע בדיקות קפדניות על מודלים מתקדמים של בינה מלאכותית לפני שהם מגיעים לציבור.
אז מה בעצם קרה כאן? Hassasis החליט לפרסם את התוכנית שלו לאחר שמודל בשם Mythos, שפותח על ידי חברת Anthropic, עורר דאגות לגבי יכולות הסייבר המתקדמות שלו. הוא תיאר את המודל הזה כ"יריית אזהרה" לחברה והזהיר שבתוך שנתיים מודלים כאלה עלולים ליצור גם סיכונים ביולוגיים. זו לא סתם תיאוריה – חברות כמו Anthropic ו-OpenAI כבר דחו את הפרסום הרחב של המודלים האחרונים שלהם בלחץ ממשל טראמפ, מה שגרם לדיונים בין האיחוד האירופי לארה"ב לגבי גישה לטכנולוגיה האמריקאית.
איך הגוף הזה אמור לעבוד?
לפי ההצעה, הגוף יורכב ממומחים טכנולוגיים עצמאיים, ימומן על ידי חברות AI מובילות, ויהיה לו עד 30 יום לבחון כל מודל חדש. אם הסיכונים יגברו, האמצעים יוחמרו – כולל אפשרות לתיאום האטת פיתוח בין מעבדות מובילות. זה נשמע דומה ל-Financial Industry Regulatory Authority, אבל לעולם ה-AI.
מי תומך? ומי לא?
התגובה הייתה מהירה וחיובית. סם אלטמן מ-OpenAI כינה את ההצעה "thoughtful", ואילון מאסק אמר שזו "נקודת התחלה טובה לדיונים רחבים יותר". Hassasis גם התייעץ עם מנהיגים אחרים בתעשייה, כולל דריו אמודי מ-Anthropic, כדי ליצור קונקרטיות.
אבל יש אתגרים פוליטיים גדולים. ארה"ב, האיחוד האירופי וסין נוקטות בגישות שונות לרגולציה של AI. בארה"ב, הקונגרס עדיין לא העביר חקיקה פדרלית משמעותית בנושא, וממשל טראמפ נדנד בין גישה מעשית לגישה יותר מתערבת. Hassasis אופטימי שיש מספיק מומנטום כרגע, אבל הוא מודה שפרסום בלוגפוסט הוא רק צעד ראשון.
מה זה אומר למשקיעים?
ההצעה רומזת שדרישות בדיקה וביקורת ממשלתיות יהפכו לגורמים חשובים יותר לחברות AI. זה עשוי להשפיע על לוחות זמנים, עלויות, ואולי גם על מחירי המניות. אם הגוף יקום, הוא יוכל להפוך את שחרור המודלים לתהליך יותר רשמי ומבוקר.
Hassasis מתכנן להיפגש עם גורמי מדיניות בוושינגטון בשבוע הבא כדי לנסות להפוך את המסגרת למערכת פיקוח עבודה. "הצעד הבא הוא לראות אם אנחנו יכולים באמת לגרום לזה לקרות", הוא אמר, "ולא רק לפרסם בלוגפוסט".
בסופו של דבר, מדובר בניסיון נדיר של קונצנזוס בתעשייה שמתחרה על פיתוח AI – לפחות ברמה של תמיכה מילולית. השאלה היא אם זה יתורגם למשהו מעשי בעולם שבו הרגולציה מפגרת אחרי החדשנות.