ראש חטיבת ה-AI של Microsoft מזהיר: מרוץ לבניית בינה-על מסוכן ללא פיקוח
מוסטפא סולימאן, ראש חטיבת ה-AI של Microsoft וממייסדי DeepMind, מזהיר מפני הסכנות במרוץ הבלתי מבוקר לפיתוח בינה-על ללא הסכמה על מנגנוני פיקוח. אזהרותיו מגיעות על רקע המעבר המפתיע שלו ל-Microsoft לאחר רכישת הסטארטאפ Inflection AI, שם יוביל את המחקר הפורץ דרך בתחום.
אזהרה דרמטית מראש חטיבת ה-AI של Microsoft
מוסטפא סולימאן, ראש חטיבת הבינה המלאכותית של Microsoft, התריע בכנס "Future of Everything" של ה-Wall Street Journal על הסכנות במרוץ הבלתי מרוסן לבניית מערכות סופר-אינטליגנטיות.
"אין כיום הסכמה בתעשייה כיצד לשלוט בישות שתהיה חכמה בהרבה מבני אדם", הצהיר סולימאן, תוך הדגשת הצורך במנגנוני בטיחות קריטיים כמו הגבלת האוטונומיה של מערכות AI מתקדמות.
הרקע המדאיג של האזהרה
סולימאן, ממייסדי DeepMind של Google (שנרכשה ב-2014), עזב את החברה ב-2022 כדי להקים את הסטארטאפ Inflection AI. במפתיע, Microsoft רכשה בחודש מרץ את רוב עובדי החברה – כולל את סולימאן, שמונה ל-CEO של חטיבת ה-AI בחברה, ואת שותפו קארן סימוניאן, שמונה למדען הראשי.
העסקה כללה תשלום של 650 מיליון דולר ל-Inflection AI כרישיון טכנולוגי, צעד שכמעט סגר את הפעילות המקורית של הסטארטאפ.
העתיד לפי Microsoft
סולימאן חשף כי חטיבתו תרכז את מרבית המחקר הפורץ דרך בתחומי ה-AI, כולל:
- אופטימיזציה מתקדמת
- הפעלת כלים אוטונומיים
- פיתוח יכולות Function Calling
"הטכנולוגיות שיפותחו ישמשו הן את Windows והן את פלטפורמת Copilot", הסביר במפגש עם העיתונאים.