המדען הראשי ב-OpenAI קורא להאט: ״אף אחד לא מוכן לתוצאות״

יש רגעים שבהם מי שמוביל את המירוץ עוצר וצועק ״חכו״. זה מה שקורה עכשיו בעולם ה-AI — ומי שצועק הוא לא איזה ארגון חיצוני או מתנגד כרוני, אלא המדען הראשי של OpenAI עצמה.

״אף אחד לא מוכן לתוצאות״

ביום ראשון פרסם Jakub Pachocki, Chief Scientist ב-OpenAI, מאמר דעה ארוך שבו הוא קורא למעבדות AI מובילות להאט באופן וולונטרי את קצב פיתוח המודלים. הטון חריג: Pachocki כותב במפורש שהוא ״מודאג מכך שאף אחד לא מוכן לתוצאות של עלייה מהירה ומתמשכת באינטליגנציה של מכונות״.

הוא לא מדבר באוויר. Pachocki מפרט תרחישים קונקרטיים שמטרידים אותו: סוכני AI אוטונומיים שילמדו לעקוף פיקוח אנושי, יפרצו למערכות מחשב ויטעו בני אדם כדי להשיג את המטרות שלהם. הוא קורא ל״סף בטיחות מנדטורי״ — רף חובה שייאכף על ידי ״רשת של בודקים חיצוניים, סוכנויות ממשלה או גופים בינלאומיים״.

ומי הגיב? Sam Altman, מנכ״ל OpenAI, שיתף את הפוסט של Pachocki ברשת X וקרא לו ״מאמר חשוב״. כש-Altman מאשר מסר כזה בפומבי, זה לא עניין של מה בכך — זה איתות ברור שהחברה רוצה שהעולם ישמע אותו.

מה קרה בדיוק עכשיו?

התזמון לא מקרי. רק ביום חמישי שלפני כן, OpenAI השיקה את Astra — מודל חדש שהחברה מתגאה ביכולות שלו במתמטיקה ובשימוש במחשב, וטוענת שהוא גם הכי ״aligned״ (מכוון ערכים) שהחברה הוציאה עד כה. פחות נטייה ל״ללכת פראי״ — אבל גם יכולות חסרות תקדים.

ושימו לב לקונטקסט: כמה ימים לפני פרסום הפוסט של Pachocki, גם קבוצות מחקר לבטיחות AI וגם OpenAI עצמה פרסמו פרטים חדשים על פריצה ל-Hugging Face — סטארטאפ בולט בתחום ה-AI — שהתרחשה ביולי. בעולם שבו אפילו חברות AI נפרצות, החששות של Pachocki מקבלים משנה תוקף.

גם המחוקקים מצטרפים

Pachocki לא לבד. חמשת המחוקקים בארצות הברית, העומדים מאחורי חוקי ה-AI המדינתיים המחמירים ביותר, קראו לחברות הגדולות לעבוד יחד כדי ״לשלוט בקצב״ ההתפתחות. הם לא מדברים על איסור — אלא על תיאום. הם רוצים שהחברות ימתינו עד שמאמצי הבטיחות שלהן ידביקו את ההתקדמות הטכנולוגית.

ובתוך כך, OpenAI עצמה הכריזה על תמיכה בארבע הצעות חוק בקליפורניה:

• SB 813 — תשתית לביקורות בטיחות עצמאיות
• AB 1405 — סטנדרטים לבודקי AI חיצוניים
• SB 1119 — הגנות על צעירים
• AB 1864 — הגנות מפני איומים ביולוגיים מבוססי AI

במקביל, OpenAI קוראת ל״מסגרת פדרלית מחייבת״ לבדיקות מודלים, דיווח על תקריות חמורות ואבטחת סייבר מחוזקת סביב פיתוח מודלים מתקדמים. החברה גם מדגישה שהדרישות צריכות להתמקד במספר קטן של חברות גדולות — ולא לפגוע בסטארטאפים ובחוקרים קטנים.

המהנדס שעזב את Anthropic

אם חשבתם שזו רק הצגה של OpenAI — קחו בחשבון שגם ב-Anthropic העניינים רותחים. Jacob Coxon, חוקר ב-Anthropic, הודיע השבוע שהוא עוזב את החברה. הסיבה: לדבריו, הוא לא מוכן לתרום למה שהוא רואה כמירוץ בין OpenAI ל-Anthropic לבניית מערכות שיהיה קשה, אם לא בלתי אפשרי, לשלוט בהן.

״אף חברה לא מתנהגת באחריות,״ כתב ב-X. ״הן רצות ישירות לסופר-אינטליגנציה שמשפרת את עצמה ומהמרות על החיים של כולנו.״

ומאחוריו קיבל תמיכה מ-Evan Hubinger, מוביל מדעי ה-alignment ב-Anthropic, שכתב: ״ג׳ייקוב צודק — אנחנו באמת מאמינים ש-AI יכול להרוג את כל בני האדם!״

כשחוקר alignment בכיר בחברת AI מובילה כותב דבר כזה בפומבי — משהו זז.

מה זה אומר על התעשייה?

הדילמה ש-Axios תיארה בחדות: חברות AI מובילות מודות שהן לא יכולות להאט לבד. הן מפסידות אם הן מאטות (כי המתחרים לא יעצרו), ומסתכנות בכך שיאבדו שליטה אם הן ממשיכות. אז הן עושות את הדבר היחיד שנשאר להן — קוראות לממשלה, לרגולטורים ולגופים בינלאומיים להטיל מגבלות על כולן ביחד.

Pachocki קורא להאטות כאלה שיהפכו ל״שגרה״ עד שהתעשייה תפתח סטנדרטים מספקים לבטיחות. הוא גם מציין סכנה ספציפית: גורמים עוינים שיאמנו סוכני AI ייעודיים למטרות זדוניות — ״סוג חדש של סכנה שכנראה תחרוג מהיקף ההגנות הנוכחיות.״

OpenAI מצידה מבקשת מ-Congress האמריקאי לפעול עכשיו, ומצהירה שהיא תומכת בחקיקה מדינתית כאמצעי ביניים עד שהממשלה הפדרלית תתפוס פיקוד. החברה קוראת ל״פעולה משמעותית על פני גיבוש מדיניות מושלמת״ — כלומר, עדיף לעשות משהו עכשיו מאשר לחכות לתוכנית מושלמת.

מה זה אומר עלינו?

למי מכם שעובדים עם מודלים מתקדמים, או מפתחים מוצרים מעליהם — שימו לב לכיוון. אם הרגולציה האמריקאית מתחילה לנוע, גם חברות ישראליות שמוכרות לשווקים בארה״ב יצטרכו להיערך. מודלים חזקים מתישהו יעברו תהליך ביקורת חיצוני, יהיו תקני דיווח על תקריות, ואולי גם דרישות אבטחת סייבר ייעודיות. זה לא מחר בבוקר, אבל הכיוון ברור.

ובינתיים — גם אם אתם ציניים לגבי קריאות כאלה מחברות שמגלגלות מאות מיליארדי דולרים — קשה להתעלם מהעובדה שהמדען הראשי של החברה שמובילה את התחום בוחר לצאת בפומבי בבקשה להאט. זה לא מופע PR רגיל.

בכל מקרה, לפחות מישהו ב-OpenAI יודע לכתוב פוסט בבלוג מבלי להשתמש ב-AI.