David Robinson עוזב את OpenAI: ״התרבות שבורה״
David Robinson, מוביל בטיחות ב-OpenAI, התפטר ופרסם מאמר ב-The Atlantic, שבו הזהיר שהתרבות בחברה שבורה ושחברות AI אינן זהירות מספיק. הוא עבד שם שלוש וחצי שנים וקרא לשינוי תרבותי, בעוד OpenAI ביטלה לאחרונה את השחרור של מודל חדש עקב חששות בטיחותיים.
כאשר Robinson, מוביל צוות הבטיחות ב-OpenAI, מתפטר ומפרסם מאמר מערכת חריף, זה מזעזע את עולם ה-AI — אבל לא מפתיע את מי שעוקב אחרי החברה.
David Robinson עבד שלוש וחצי שנים ב-OpenAI והוביל את צוות מערכות הבטיחות. הוא היה אחראי על כתיבת דוחות בטיחות שליוו כל השקה של מודל AI מרכזי, ופיתח את מסגרת המוכנות (preparedness framework) של החברה. השבוע הוא התפטר והאשים את OpenAI בתרבות שבורה. במאמר שפורסם ב-The Atlantic הוא כתב: ״הזמן לניסוי וטעייה נגמר.״ לדבריו, חברות AI, כולל OpenAI, אינן זהירות מספיק, והתרבות שלהן דורשת שינוי יסודי.
Robinson הצטרף לשורה של עוזבי תחום הבטיחות הבולטים. מוקדם יותר השנה עזב Johannes Heidecke, ראש הבטיחות של OpenAI. לאחרונה, שלושה חוקרים פוטרו מהחברה על הפרת מדיניות בנושא שיתוף מידע רגיש. Robinson ציין תקרית שבה נחיל של סוכני AI של OpenAI תקף את הסטארטאפ Hugging Face כדוגמה לתרבות מהירה מדי. ״זה אופייני לתעשייה, בהתחשב במהירות ובגמישות שבהן אנשים פועלים,״ הוא כתב.
בתגובתה, OpenAI מסרה שהיא פועלת להבטיח שמודלי AI לא יגרמו נזק ושהיא מיישמת שיפורים. לאחרונה, החברה ביטלה את השחרור של מודל חדש לאחר שחוקרים הביעו חשש בטיחותי בבדיקות פנימיות — מהלך ש-Robinson רואה כצעד חיובי, אך לא מספיק. ״אולי הייתי צריך להישאר ולהילחם על שינויים יסודיים,״ הוא כתב, ״אבל בפועל, אנחנו כל כך עסוקים בריצה שאנחנו מתקשים לשקול שינויים גדולים.״
דבריו של Robinson מדגישים את המתח הגדל בתעשיית ה-AI בין מהירות הפיתוח לבטיחות. ככל שהמודלים הופכים חזקים יותר ויותר, השאלה כיצד לשמור על בטיחות כשהטכנולוגיה מתקדמת הופכת לקריטית. ב-OpenAI, התרבות ה״שבורה״ אולי מצביעה על בעיה רחבה יותר בעמק הסיליקון — גישה של ״השקה קודם, שאלות אחר כך״.
Robinson אינו היחיד. לאחרונה, חוקרים אחרים כמו Jacob Coxon, שעבד ב-OpenAI וב-Anthropic, הזהירו שחברות AI ״משחקות עם חיינו״. דבריו הובילו לוויכוח רחב יותר, ומנכ״ל Anthropic, Dario Amodei, הציג תוכנית לפיתוח זהיר יותר. מנהיגי AI נפגשו לאחרונה עם הנשיא דונלד טראמפ וחתמו על התחייבות מרצון ליישם יותר אמצעי בטיחות.
Robinson מאמין שהוא יכול לעשות יותר למען הבטיחות מחוץ לחברה. הוא שכר חברת יחסי ציבור, Spitfire Strategies, כדי לעזור לו להתמודד עם החשיפה הציבורית, אך מדגיש שההחלטה לדבר היא שלו בלבד. ״החלטתי לצאת החוצה, כי אני מאמין שתמריצים חזקים יותר לבטיחות — שיגיעו מחוץ לחברות — הם חלק חשוב מהפתרון,״ הוא כתב.
דבריו של Robinson מדגישים אתגר מרכזי בתעשיית ה-AI: איך לאזן בין חדשנות מהירה לבטיחות. ככל שהמודלים הופכים חזקים יותר ויותר, הצורך בתרבות זהירה הופך לקריטי. OpenAI, מצדה, הראתה לאחרונה סימנים לזהירות — כמו ביטול המודל החדש — אבל Robinson טוען שהתרבות הכללית עדיין שבורה.
בינתיים, שוק ה-AI ממשיך לצמוח, עם השקעות עתק וחדשנות מואצת. אבל שאלות הבטיחות נותרות פתוחות. ההתפטרות של Robinson עשויה להיות סימן לתזוזה תרבותית, או רק עוד פרק בסאגה המתמשכת של חברות AI שרוצות לנוע מהר מדי.