OpenAI פיטרה חוקרי בטיחות — הם יצאו באזהרה פומבית חריגה
OpenAI פיטרה שלושה חוקרי בטיחות בספטמבר, לאחר חקירה פנימית שהחלה מחשד להדלפות. החוקרים, שנדרשו למסור את הטלפונים שלהם ופוטרו בגלל שימוש ב-Signal, פרסמו מכתב אזהרה חריג שבו טענו שהחברה לא יכולה להבטיח את בטיחות ה-AI בכוחות עצמה. המכתב מצטרף לגל של התפטרויות בכירים ועצומה שעליה חתמו 1,400 עובדי AI, שקוראים להאט את קצב הפיתוח — אך מודים שאף חברה לא יכולה לעשות זאת לבד.

בסוף ספטמבר OpenAI פיטרה שלושה חוקרי בטיחות בכירים: טומק קורבק (Tomak Korbak), ג'סמין וואנג (Jasmin Wang) ומיקיטה בלסני (Mikita Balesni). השלושה עסקו בפיקוח על מודלי ה-AI של החברה, ושניים מהם הובילו מחקר חדשני על ניטור שרשרת החשיבה (Chain of Thought) — אותם שלבי הסקה שהמודל מייצר לעצמו, ושדרכם אפשר ללמוד על מה שקורה "מאחורי הקלעים" של ההתנהגות שלו. כעבור שבוע מהפיטורים, הם פרסמו מכתב אזהרה שכותרתו "OpenAI לא יכולה להפוך את הבינה המלאכותית לבטוחה בכוחות עצמה".
מה בעצם קרה שם?
לפי דיווח ב-"וול סטריט ג'ורנל", אנשי האבטחה של OpenAI פתחו בחקירה פנימית בחשד להדלפת מידע. הם דרשו מהחוקרים גישה לטלפונים האישיים שלהם — ושם מצאו התכתבויות עם חוקר חיצוני דרך Signal, כולל שימוש במנגנון מחיקה אוטומטי של הודעות. מבחינת החברה, זה הספיק כדי לפטר אותם.
לחברה מסחרית יש כמובן זכות להגן על הקניין הרוחני שלה. אבל השאלה שהמכתב מעלה חורגת הרבה מעבר לפרוצדורה: החוקרים טוענים שהפיטורים יצרו אווירת פחד אצל שאר עובדי המחקר בחברה. קשרים עם מומחי בטיחות חיצוניים — דבר שהיה חלק שגרתי ורצוי בעבודה — הפכו פתאום למשהו שעלול לסכן עובדים. "אם התנהגות שנחשבה תקינה עד לאחרונה הופכת לעילה לפיטורים", הם מזהירים, "העובדים לא יוכלו לבצע את עבודת הפיקוח".
לא רק שלושה מודאגים
האזהרות הללו לא מגיעות בוואקום. ביולי האחרון פורסם מכתב חריג בשם "Pacing the Frontier", שעליו חתמו קרוב ל-1,400 עובדים ובכירים מתעשיית ה-AI — בהם מנכ"ל Anthropic, דריו אמודיי (Dario Amodei), המדען הראשי של OpenAI, יאקוב פאצ'וקי (Jakub Pachocki), המדען הראשי של Meta AI, שנגג'יה ז'או (Shengjia Zhao), וחוקרים בכירים מ-Google DeepMind. המכתב מזהיר מפני תרחיש שבו מערכות AI יוכלו לבצע בעצמן מחקר ופיתוח של מודלים מתקדמים — ולהאיץ את ההתקדמות מעבר ליכולת האנושית להבין או לשלוט בה. "יש לקנות זמן כדי לטפל בסיכונים המתעוררים", הם כותבים.
אבל כאן נתקל המכתב בבעיה שהוא עצמו מתאר: אף חברה לא יכולה להאט לבד. החוקר ליאו גאו (Leo Gao) מ-OpenAI ניסח זאת בישירות: "אף שחקן אינו מוכן לעצור באופן חד-צדדי". תמריצי השוק מונעים מכל חברה בנפרד ללחוץ על הבלמים, כי המתחרים פשוט יעקפו אותה.
מי שכבר לא מוכן לחכות
בספטמבר, זמן קצר אחרי הפיטורים, התפטר מ-Anthropic ג'ייקוב קוקסון (Jacob Kokson), חוקר שעבד שנים באימון מודלים — קודם לכן גם ב-OpenAI. "אף אחת משתי החברות אינה פועלת באחריות", הוא כתב ב-X, "שתי החברות דוהרות לעבר בינת-על ומהמרות על חיינו".
באוקטובר הגיע תורו של דיוויד רובינסון (David Robinson), שהוביל את מסגרת הבטיחות של OpenAI ופיקח על דוחות הבטיחות לקראת השקות מודלים. במאמר שפרסם ב-"אטלנטיק" הוא תיאר תרבות ארגונית שמקדשת קצב השקות מתוך תפיסה שאפשר "לשחרר ולתקן בהמשך". "עידן הניסוי והטעייה הסתיים", הוא כתב. "במערכות AI מתקדמות, טעות אחת עלולה להיות בלתי הפיכה".
מי שומר על השומרים?
הנקודה המרכזית שעולה מכל הסיפורים האלה פשוטה אבל קשה: החברות שמפתחות את מערכות ה-AI המתקדמות בעולם הן גם אלה שמחליטות מי יפקח עליהן, אילו כשלים ייחשפו, ומה "בטוח מספיק". המידע הפנימי הדרוש לביקורת עצמאית מצוי בשליטתן המלאה. בתעשיות כמו תרופות ותעופה, יש רגולטור עם סמכות לדרוש מידע ולהטיל מגבלות — בלי לבקש רשות. את ההבחנה הזאת בין "ביקורת שחברה בוחרת לאפשר" לבין "פיקוח שאינו זקוק לאישור" עדיין לא עיגנו בעולם ה-AI.
וכך נוצר מאזן אימה: גם מי שמבינים שהאטה הכרחית מתקשים להתחייב אליה כל עוד המתחרים דוהרים קדימה. השאלה היא מתי מישהו — ממשלה, רגולטור בינלאומי, כוח שוק — ילחץ על אותם בלמים שהמפתחים עצמם מבקשים אבל לא מסוגלים להפעיל.