ראש חטיבת ה-AI של Microsoft מזהיר: מרוץ לבניית בינה-על מסוכן ללא פיקוח

אזהרה דרמטית מראש חטיבת ה-AI של Microsoft

מוסטפא סולימאן, ראש חטיבת הבינה המלאכותית של Microsoft, התריע בכנס "Future of Everything" של ה-Wall Street Journal על הסכנות במרוץ הבלתי מרוסן לבניית מערכות סופר-אינטליגנטיות.

"אין כיום הסכמה בתעשייה כיצד לשלוט בישות שתהיה חכמה בהרבה מבני אדם", הצהיר סולימאן, תוך הדגשת הצורך במנגנוני בטיחות קריטיים כמו הגבלת האוטונומיה של מערכות AI מתקדמות.

הרקע המדאיג של האזהרה

סולימאן, ממייסדי DeepMind של Google (שנרכשה ב-2014), עזב את החברה ב-2022 כדי להקים את הסטארטאפ Inflection AI. במפתיע, Microsoft רכשה בחודש מרץ את רוב עובדי החברה – כולל את סולימאן, שמונה ל-CEO של חטיבת ה-AI בחברה, ואת שותפו קארן סימוניאן, שמונה למדען הראשי.

העסקה כללה תשלום של 650 מיליון דולר ל-Inflection AI כרישיון טכנולוגי, צעד שכמעט סגר את הפעילות המקורית של הסטארטאפ.

העתיד לפי Microsoft

סולימאן חשף כי חטיבתו תרכז את מרבית המחקר הפורץ דרך בתחומי ה-AI, כולל:

• אופטימיזציה מתקדמת
• הפעלת כלים אוטונומיים
• פיתוח יכולות Function Calling

"הטכנולוגיות שיפותחו ישמשו הן את Windows והן את פלטפורמת Copilot", הסביר במפגש עם העיתונאים.