OpenAI מזרימה 7.5 מיליון דולר למחקר בינה מלאכותית עצמאי
OpenAI מעניקה 7.5 מיליון דולר ל-The Alignment Project, קרן בינלאומית למחקר עצמאי בתחום ההתאמה של מערכות AI, בניהול UK AISI הבריטי ובתפעול Renaissance Philanthropy. היקף הקרן כבר עולה על £27 מיליון, והיא מממנת פרויקטים בהיקף של £50,000 עד £1 מיליון בתחומי תורת המשחקים, מדעי הקוגניציה וקריפטוגרפיה.
OpenAI מכירה שאין לה את כל התשובות
OpenAI, שמרבית כספה ותשומת הלב שלה מופנים לפיתוח מודלים חזקים יותר ויותר, עוצרת רגע כדי להגיד משהו מעניין: "אנחנו לא יכולים לפתור את בעיית ההתאמה (alignment) לבד". החברה הודיעה אתמול (חמישי) על מענק של 7.5 מיליון דולר (כ-£5.6 מיליון) לטובת The Alignment Project — קרן בינלאומית למחקר עצמאי בתחום ההתאמה של מערכות AI.
הקרן הוקמה על ידי המכון לבטיחות בינה מלאכותית בבריטניה (UK AISI), גוף מחקר ממשלתי הכפוף למשרד המדע, החדשנות והטכנולוגיה הבריטי (DSIT). Renaissance Philanthropy מנהלת את המענק.
לא מה שחשבתם — 7.5 מיליון דולר זה רק ההתחלה
אז כמה כסף יש כאן? התרומה של OpenAI מצטרפת לקרן שהיקפה כבר גדול בהרבה — The Alignment Project גייסה סכום כולל של למעלה מ-£27 מיליון ממקורות מגוונים: מימון ציבורי, קרנות פילנתרופיות ותעשייה. פרויקטים בודדים יכולים לקבל בין £50,000 ל-£1 מיליון כל אחד, וגם יוכלו לקבל גישה למשאבי מחשוב (compute) ולתמיכה מומחית.
חשוב להבין: 7.5 מיליון דולר נשמע הרבה, אבל בעולם שבו חברות AI מוציאות מיליארדים על compute ואימון מודלים, זה טיפה בים. מה שמעניין כאן זה לא הסכום — אלא הכיוון.
מה בעצם חוקרים כאן?
The Alignment Project מכסה מגוון רחב של תחומים — לא רק מה שאנחנו חושבים עליו כשאנחנו שומעים "בטיחות AI":
- תורת הסיבוכיות החישובית (computational complexity theory)
- תורת המשחקים וכלכלה
- מדעי הקוגניציה
- תורת האינפורמציה וקריפטוגרפיה
OpenAI מדגישה שהקרן מבוססת על רשימת פרויקטים שכבר עברו בחינה של מומחים (vetted) — כלומר, הכסף לא נועד ליצור תהליך גיוס חדש, אלא להגדיל את מספר הפרויקטים האיכותיים שמקבלים מימון בסבב הנוכחי.
למי אכפת?
לכולנו. אם אתם עובדים בחברות AI או עוסקים בבטיחות מערכות — זו נקודה מעניינת מכמה סיבות:
ביטחון מערכות אוטונומיות. ככל שמערכות AI הופכות יותר ויותר אוטונומיות — כפי ש-OpenAI עצמה מדגישה — בעיית ההתאמה הופכת קריטית יותר. אם מודל AI חזק מקבל החלטות שאינן מתואמות עם מה שהתכוונו אליו, הנזק יכול להיות משמעותי.
גישה שקופה יותר. OpenAI מבהירה שהמימון שלה לא משפיע על תהליך הבחירה של הפרויקטים. זה אינטרס שלה: היא רוצה שהאקו-סיסטם החיצוני יישאר עצמאי ובלתי תלוי, כדי שמחקרים יוכלו לאתגר גם את המודלים שלה עצמה.
הזדמנות לחוקרים ואנשי מחקר. בעולם שבו משרות בטיחות AI הפכו למקצוע מבוקש, קרנות כאלה מציעות גישה חדשה למקורות מימון גדולים יחסית, במיוחד לחוקרים ספקולטיביים ותאורטיים — כאלה שלא בהכרח עבדו במעבדות גדולות.
למה בעצם לממן את זה כשיש מחלקת alignment פנימית?
OpenAI משקיעה רבות במחקר פנימי של alignment, כולל פיתוח "שיטות ניתנות להרחבה" (scalable methods) ו"פריסה איטרטיבית" — העלאת יכולות בהדרגה תוך חיזוק אמצעי בטיחות. אבל החברה מודה בפה מלא: "לאף ארגון בודד אין מונופול על בטיחות AGI".
מעבר לזה — היא מציינת שגישה "לא מתואמת" (uncorrelated) מבחינה מחשבתית מצד חוקרים חיצוניים יכולה לעזור לגלות כיוונים חדשים. במילים אחרות: אם המודלים הנוכחיים מתבררים כמבוי סתום, טוב שיהיה מי שמחזיק את המפתחות למסלולים אחרים.
OpenAI אומרת שהעתיד של AI לא יתפתח בדיוק כפי שמישהו צופה — וייתכן מאוד שהוא יתפתח מהר מאוד. בינתיים, החוקרים העצמאיים יקבלו קצת יותר כסף לנסות ולענות על שאלות שמעבדה אחת לבדה לא יכולה לשאול.