מומחה בטיחות ב-OpenAI מתפטר: ״התרבות בחברה שבורה״
דייוויד רובינסון, מוביל צוות הבטיחות ב-OpenAI, התפטר ופרסם מאמר חריף ב-The Atlantic, שבו הוא טוען שהתרבות בחברה ״שבורה״ ודורשת שינוי. הוא פיקח על דוחות בטיחות עבור 12 מודלים מתקדמים, וקורא למשטר בטיחות מחמיר כמו זה הנהוג בכורים גרעיניים. עזיבתו מצטרפת לגל דומה בתעשייה.

דייוויד רובינסון, מוביל צוות הבטיחות ב-OpenAI, הודיע על התפטרותו ופרסם מאמר חריף ב-The Atlantic, שבו הוא טוען שהתרבות בחברה ״שבורה״ ודורשת שינוי מיידי. אז מה בעצם קרה כאן?
רובינסון, שעבד ב-OpenAI במשך שלוש שנים וחצי, היה אחראי על כתיבת דוחות הבטיחות שליוו כל השקת מודל AI גדול, כולל 12 השקות של מודלים מתקדמים. הוא גם פיקח על ״מסגרת המוכנות״ של החברה ועסק בשקיפות, כולל פרסום כרטיסי מערכת שמספקים מידע על המודלים. ההתפטרות שלו מגיעה על רקע גל עזיבות של גורמי בטיחות בולטים, כולל Johannes Heidecke, ראש הבטיחות הקודם של החברה.
במאמר שפרסם, רובינסון מתאר את עצמו כ״קלישאה משהו״ – עובד בחברת AI גדולה שמתפטר ומתריע על סכנות. הוא טוען שחברות AI, כולל OpenAI, אינן ״זהירות מספיק״ ושהן מסתמכות מדי על גישת ניסוי וטעייה ברגע שבו ההשלכות של כישלון הופכות למשמעותיות יותר. ״עידן הניסוי והטעייה הסתיים״, הוא כותב. הוא קורא לתרבות בטיחות מחמירה יותר, ברוח הנהוגה בהפעלת כורים גרעיניים.
רובינסון מציין אירוע ספציפי: ״נחיל״ של סוכני AI אוטונומיים של OpenAI שתקף את הסטארטאפ בתחום ה-AI Hugging Face. לדבריו, אירועים כאלה ״אופייניים לתעשייה״, ומשקפים את המהירות שבה אנשים פועלים. הוא מדגיש שהחברה ״רצה מהשקה להשקה״ ולא משיגה את רמת הזהירות הנדרשת.
הפרישה של רובינסון מצטרפת לשורה של תקריות ועזיבות שמעוררות דאגה בתעשייה. מוקדם יותר השנה, Jacob Coxon, חוקר שעבד ב-OpenAI וב-Anthropic, התפטר והצהיר שחברות אלה ״משחקות בחיינו״. זה עורר ויכוח נרחב על בטיחות AI, עם מנכ״ל Anthropic, Dario Amodei, שפרסם תוכנית לפיתוח זהיר יותר. לאחרונה, מנהלי AI נפגשו עם הנשיא Donald Trump וחתמו על התחייבות עצמית לא מחייבת ליישם בקרות בטיחות נוספות.
אך רובינסון סבור שהוויכוח צריך לחרוג מחוקים או כללים ספציפיים, ולהתמקד בתרבות הכוללת. הוא טוען שתמריצים חזקים יותר לבטיחות – מבחוץ – הם חלק גדול מהפתרון. לשם כך, הוא שכר משרד יחסי ציבור, Spitfire Strategies, כדי לסייע לו בהתמודדות עם תשומת הלב הציבורית, אך טוען שההחלטה לדבר היא שלו בלבד.
בתעשייה, התגובות חלוקות. שר האוצר האמריקני Scott Bessent השווה בין מנהלי AI שמתריעים מפני אסון לבין Hannibal Lecter, ואמר: ״תעצרו אותי לפני שאני שוב הורג״. לדבריו, חברות AI צריכות להאט את הפיתוח בעצמן, בלי התערבות ממשלתית.
עבור קהילת ההייטק הישראלית, הסיפור הזה מהדהד כדוגמה נוספת למתיחות בין קצב החדשנות לאחריות. רבות מחברות ה-AI הישראליות מתמודדות עם אותן שאלות: איך לאזן בין מהירות ההגעה לשוק לניהול סיכונים. ההתפטרות של רובינסון מדגישה שהלחץ לשמור על הבטיחות לא נעלם – הוא רק מתגבר, בין אם דרך עובדים שמדברים או דרך רגולציה.
בסופו של דבר, כשרובינסון אומר שהוא יכול לעשות יותר למען בטיחות מחוץ לחברה, זה מותיר אותנו עם מחשבה יבשה: לפעמים, מי שבנה את החומות הוא גם הראשון להצביע על הסדקים.