מנכ״ל DeepMind קורא לפיקוח עולמי על AI
דמיס האס, מנכ״ל DeepMind, מציע גוף פיקוח בינלאומי על מודלי AI מתקדמים, בראשות ארה״ב, כדי למנוע סיכונים כמו מתקפות סייבר ואיומים ביולוגיים. הגישה, במודל של FINRA, תחייב בדיקות בטיחות 30 יום לפני הפצה וזוכה לתמיכה ממנכ״לים מתחרים, על רקע התערבות ממשלתית קודמת במודלים מסוכנים.
דמיינו שאתם שומעים שהמודל הבא שאתם מפתחים עלול לשמש למתקפת סייבר הרסנית או ליצירת נשק ביולוגי. זה נשמע כמו מדע בדיוני, אבל דמיס האס, מנכ״ל Google DeepMind, טוען שאנחנו כבר ממש בפתחו של עידן כזה. בשבוע שעבר הוא פרסם מניפסט שבו הוא קורא להקמת גוף פיקוח בינלאומי על AI, בראשות ארצות הברית.
למה זה חשוב?
האס, זוכה פרס נובל שפיתח את Gemini, מאמין שהסיכונים בתחום הסייבר הם "יריות אזהרה". לדבריו, בתוך 18 חודשים יכולות אלו, יחד עם איומים חמורים יותר בתחום הגרעיני והביולוגי, עלולות להיות זמינות במודלים בקוד פתוח, מעבר לשליטת כל ממשלה. הוא מציין שהסיכונים יגיעו גם ממודלים חזקים יותר של חברות הענק, לא רק ממודלים בקוד פתוח.
איך זה אמור לעבוד?
האס מציע מודל דומה ל-FINRA, גוף פיקוח עצמאי שמפקח על וול סטריט. הגוף החדש יהיה ממומן על ידי התעשייה, עם מומחים טכניים מהשורה הראשונה, ויפעל בפיקוח הממשלה האמריקאית. המודלים המתקדמים ביותר, אותם הוא מכנה "מודלי קצה", יעברו בדיקות בטיחות 30 יום לפני ההפצה. בשלב הראשון, ההשתתפות תהיה וולונטרית, אבל אם הבדיקות יוכיחו את עצמן, הן יהפכו לחובה כדי להפיץ מודלים בארה"ב.
הגוף יבחן יכולות בתחום הסייבר, הביולוגיה וה"הטעיה" – כלומר, האם המודל מנסה לעקוף מנגנוני בטיחות. הוא גם ידרוש סימון דיגיטלי של תמונות שנוצרו על ידי AI ותוצרים קריאים כדי להבין את תהליך החשיבה של המודל. בנוסף, הבדיקות יתעדכנו מדי רבעון כדי לעמוד בקצב ההתפתחויות. המטרה היא ליצור גוף עם דירקטוריון עצמאי, הכולל מומחים טכניים ונציגי קוד פתוח.
רקע: אירועי הקיץ האחרון
ההצעה מגיעה חודש לאחר שממשלת ארה"ב התערבה פעמיים בהפצת מודלים מסוכנים. Anthropic, חברת האם של Claude, חוותה הקפאה של מודלים חזקים שלה, כמו Mythos ו-Fable, בשל חששות ביטחוניים. OpenAI, כדי למנוע גורל דומה, הסכימה להגביל את GPT-5.6 לשותפים מפוקחים על ידי הממשלה. האס טוען שהאירועים האלה הוכיחו שוושינגטון צריכה גוף פיקוח קבוע, לא תגובות אד-הוק.
תגובות: קונצנזוס חלקי
מדהים לראות שמנכ"לים מתחרים מסכימים על הצורך ברגולציה. דריו אמדי, מנכ״ל Anthropic, קרא לגוף פיקוח במודל FAA. סם אלטמן, מנכ"ל OpenAI, מציע מודל IAEA. כולם רוצים גוף אמריקאי עם סמכות בינלאומית, שיבדוק מודלים מסוכנים לפני שהם מופצים. עם זאת, יש חששות שהרגולציה הזו עלולה להיטיב עם חברות גדולות, שלרשותן משאבים לנווט תהליכים מורכבים – מה שעלול להפוך לחסם כניסה לחברות קטנות וסטארטאפים.
מה עומד על הכף?
האס מעריך ש-AGI, בינה מלאכותית ברמה אנושית, נמצאת במרחק "כמה שנים קצרות". לדבריו, "מצאנו דרך לגרום לחול לחשוב – זה נס." אבל הנס הזה יכול להיות גם אסון אם לא ננהל אותו נכון. הגוף המוצע יעסוק בבדיקות בטיחות לאומיות, כולל איומי סייבר וביולוגיה, ויעודד פיתוח אחראי. הוא גם ישתף פעולה עם גופים בינלאומיים כדי לקדם סטנדרטים גלובליים.
ההצעה עדיין בשלב מוקדם. האס מקווה שהגוף יוקם עד סוף השנה, אבל ישנן מחלוקות, במיוחד בארה"ב, לגבי היקף הרגולציה. ממשל טראמפ, למשל, התנגד בעבר ל"FDA ל-AI", אבל המציאות מאלצת אותו לשקול מחדש. השאלה הגדולה היא כיצד זה ישפיע על קצב החדשנות – האם הפיקוח יאט את הפיתוח, או דווקא יגביר את האמון הציבורי.
שורה תחתונה
עידן המערב הפרוע בפיתוח AI נגמר. השחקנים הגדולים ביותר הם אלה שדוחפים לפיקוח, אולי כי יש להם הכי הרבה מה להפסיד אם הדברים ישתבשו. לפחות מישהו חושב על היום שאחרי.