OpenAI מקימה קבוצת ייעוץ אחרי סערה סביב הישגי AI

כשמודל AI פתר את בעיית נאוויה-סטוקס, אחת מבעיות פרס המילניום, ועוד יותר מ-100 בעיות מתמטיות פתוחות, OpenAI ציפתה לרגע של פריצת דרך. אבל מהר מאוד זה הפך למשבר תדמיתי, עם מכתב פתוח שבו מתמטיקאים מחו על השימוש בבעיות פתוחות כמדד ל-AI. כעת, החברה מנסה לשנות כיוון עם קבוצת ייעוץ חדשה.

OpenAI הודיעה לאחרונה על הקמת קבוצת ייעוץ עצמאית, Advisory Group on Mathematics and Artificial Intelligence (AGMAI), שתעזור להעריך ולפרסם תוצאות מתמטיות ממודלים שלה. הצעד מגיע אחרי שההישגים של ה-AI שלה עוררו דאגה בקהילה המתמטית לגבי השלכות שליליות, כמו קשיים בייחוס רעיונות ופגיעה בפרנסה של חוקרים.

מי נבחר לייעץ?

הקבוצה מורכבת מתשעה מתמטיקאים מהשורה הראשונה, ובהם חוקרים ממוסדות כמו Stanford, Harvard, Oxford ו-Cambridge. חברים בה זוכי מדליית Fields וזוכי מענקים מ-MacArthur, והם יתארחו במכון ללימודים מתקדמים (IAS) ב-Princeton, ניו ג׳רזי — מרכז מחקר מתמטי נודע שבו עבדו אלברט איינשטיין וג׳ון פון נוימן.

OpenAI מדגישה שהקבוצה תפעל באופן עצמאי. היא תוכל לייעץ בנושאים שלא התבקשה לייעץ בהם, להעיר על ההשפעה של OpenAI על המתמטיקה ולפרסם את עמדותיה. החברים לא יקבלו תשלום מ-OpenAI, והקבוצה יכולה לשנות את ההרכב שלה כרצונה. ״הערך שלה תלוי ביכולת של חבריה להשתמש בשיפוט שלהם ולאתגר את שלנו״, אמרה החברה.

מה המטרה?

הקבוצה תייעץ על בחינה, תקשור ופרסום של תוצאות חדשות: היא תעזור ל-OpenAI להעריך את המשמעות שלהן, לתאם את ההפצה ולייעץ על סטנדרטים אקדמיים ומקצועיים במחקר מתמטי. בנוסף, היא תייעץ כיצד הכלים של OpenAI יכולים לתמוך במחקר ובלמידה מתמטית. ״אנחנו רוצים לשים כלים חזקים בידיים של מתמטיקאים כדי שיוכלו לרדוף אחרי השאלות שהם מכירים הכי טוב״, נכתב בפוסט בבלוג של החברה.

רקע: למה זה קרה?

המודל הפנימי החדש של OpenAI, שפתר את בעיית נאוויה-סטוקס ועוד בעיות, הדהים מתמטיקאים. אבל הפרסום המהיר והשיווקי גרם לתגובת נגד. מכתב פתוח, ״חוסר יישור חמור של AI במתמטיקה״, טען שהטיפול בתוצאות היה רחוק מהמקובל במחקר מתמטי. מתמטיקאים דרשו מעורבות שקולה יותר.

תגובות מעורבות מהקהילה

ההכרזה תפסה רבים בהפתעה. חוקר מ-ETH Zurich, Simon Machado, אמר שהכול ״עטוף במסתורין״ ושאל איך נבחרו תשעת החברים. באתר הקבוצה נכתב שהיא קמה אחרי ש-OpenAI פנתה לכמה מחבריה, אבל המתמטיקאים החליטו להקים גוף עצמאי.

חבר הקבוצה Martin Hairer, פרופסור ב-Imperial College London וב-EPFL, פרסם פוסט בבלוג שבו הגיב ל״שטף של מידע מוטעה״. הוא הדגיש שהקבוצה ״עצמאית באמת מ-OpenAI״ ושאף אחד מהחברים לא חתם על הסכמים מגבילים בנוגע לדברים שהם יכולים לומר. ״העובדה הבסיסית הנוספת היא שהמטרה העליונה שלנו היא לייצג בצורה הטובה ביותר את האינטרסים של קהילת המתמטיקה״, כתב.

אבל לא כולם משוכנעים. Francesco Fournier-Facio, פרופסור למתמטיקה באוניברסיטה בסקוטלנד, תיאר את עצמו כ״אדיש״ ושאל אם הקבוצה באמת מייצגת את הקהילה הרחבה. ״זה מרגיש כמו מגדל שן״, אמר. Machado הוסיף שחברי הקבוצה הם ״מתמטיקאים מדהימים״, אבל הוא לא בטוח אם הם האנשים הנכונים לייצג שאלות פוליטיות.

אתגרים קדימה

Hairer ציין שהאתגר המיידי הוא לייעץ ל-OpenAI בנוגע לפרסום תוצאות רבות ומשמעותיות. הקבוצה אוספת משוב דרך שיחות, טופס ציבורי ודיונים בבלוג Proofs and Prompts, שהפך לפורום מרכזי לדיון על AI במתמטיקה.

אבל האתגר הגדול יותר יהיה לזכות באמון הקהילה. Hairer הזהיר שחברי הקבוצה יהיו ״נאיביים אם יאמינו שמעבדות ה-AI לא ינסו לסלף את מה שאנחנו אומרים כדי שיתאים למכונת היח״צ שלהן״. ובכל זאת, הוא טען שיהיה צבוע לא לעסוק בנושא עכשיו, במיוחד אחרי הביקורת הקודמת על ההתנהלות של OpenAI.

OpenAI לא פרסמה פרטים רבים על המודל החדש, אבל ההישגים שלו במתמטיקה הם חסרי תקדים. השאלה היא אם קבוצת הייעוץ תוכל למנוע משבר דומה בעתיד, או שזהו צעד סמלי בלבד. בינתיים, מתמטיקאים ברחבי העולם עוקבים מקרוב.

בסופו של דבר, אפילו בינה מלאכותית מתקדמת צריכה ייעוץ אנושי כדי לנווט בעולם האקדמי.