OpenAI דוחה את ההנפקה כדי לחזק את בטיחות ה-AI

ה-IPO נדחה, החששות גדלים

OpenAI החליטה לדחות בשנה את ההנפקה הציבורית (IPO), שתוכננה להתקיים השנה, במטרה לחזק את מערך הבטיחות ואמצעי ההגנה (guardrails) של מודלי הבינה המלאכותית שלה. אבל את עיקר תשומת הלב תפסו הדברים שסם אלטמן, מנכ״ל החברה, אמר בריאיון נרחב: שהעולם ״צריך לקבל את העובדה שדברים רעים יקרו בדרך״, כדי ליהנות מיתרונות ה-AI.

מדובר בקביעה חריגה, בטח ובטח בתקופה שבה שורת תקריות בטיחות, מחאות חוקרים ותביעות משפטיות מערערות את האמון בתעשיית ה-AI. אלטמן, בריאיון לניוזלטר Decoded של Politico, גולל את תפיסת עולמו בנוגע לאופן שבו יש להסדיר את התחום — תפיסה שמנוגדת ישירות לגישה הזהירה יותר של החברה שמפתחת את Claude, Anthropic.

״הרבה אור״ בינו לבין Dario Amodei

״אני חושב שיש הרבה אור [ביני לבין Dario Amodei]״, אמר אלטמן על יריבו המרכזי בתחום מודלי ה-AI המתקדמים ביותר (frontier models). ״אני מבין, אבל לא מסכים עם הגישה של אנשים שאומרים: 'הטכנולוגיה הזו תהיה כל כך חזקה וכל כך מסוכנת, שמעבדה אחת בסן פרנסיסקו צריכה להחזיק בה ולוודא ש...'״.

אלטמן הבהיר שהוא לא מוכן לערוב לכך שלא יהיו פריצות אבטחה, ניצול לרעה של הטכנולוגיה, הונאות או ״דברים רעים אחרים שיקרו״. לדבריו, אנשים יעשו ״בסדרי גודל רבים יותר דברים טובים מאשר דברים רעים״ עם AI. ״אנחנו מאמינים שהעולם צריך לקבל את העובדה שכמה דברים רעים יקרו, למען היתרונות של הטכנולוגיה הזאת״, הוא אמר.

דבריו מגיעים על רקע קיץ סוער מבחינת החברה שלו. מודלים של OpenAI היו מעורבים במספר אירועי אבטחה שבהם כלים אוטונומיים (agentic) ״הרחיקו לכת״ ופרצו לחברות אחרות ואף לאתרים ממשלתיים. בנוסף, החברה נתבעת על ידי הורים לילדים שנטלו את חייהם, בטענה ש-ChatGPT עודד התאבדות ואשליות מזיקות.

על מה המהומה?

הסערה סביב ה-AI נמצאת בנקודה רגישה. מצד אחד, מודלים חדשים מפגינים יכולות מרשימות יותר ויותר. מצד שני, חוקרים ותעשייה מתריעים על סיכונים קיומיים. אחד החוקרים שעבדו ב-Anthropic וב-OpenAI התפטר לאחרונה ופרסם מכתב שבו טען שהחוקרים ״מאמינים בכנות״ שהטכנולוגיה עלולה להרוג את כל האנושות עד סוף העשור. מנהל ה-Alignment ב-Anthropic העריך את הסיכוי לכך ביותר מאחד לעשרה.

גישה זו מציבה את Anthropic, ובראשה Dario Amodei, כמחנה הזהיר יותר, הקורא להאט את קצב הפיתוח. אלטמן ו-OpenAI, לעומת זאת, מאמינים בגישה רחבה יותר, גם אם היא כרוכה בסיכונים. ״אני לא הייתי מוכן לערוך עסקה שבה נבטיח שאין פריצות גדולות, שאין שימוש לרעה, שאין הונאות, שאין שום דבר רע שיקרה״, הוא הסביר.

מה זה אומר לכם?

לעובדי ההייטק בישראל, הדיון הזה הוא הרבה מעבר לאקדמיה. הוא משפיע ישירות על מודל העבודה, על תחומי האחריות שלכם, ואולי גם על המשכורות. חברות AI מקומיות, בין אם הן מפתחות מוצרים עם מודלים גדולים או מתמחות בפתרונות בטיחות, נדרשות כעת לנווט בזירה רגולטורית וציבורית שמשתנה במהירות.

החלטת OpenAI לדחות את ההנפקה כדי להשקיע בבטיחות היא איתות שוק: גם חברות עם טכנולוגיה פורצת דרך מבינות שאי אפשר לרוץ קדימה מבלי לבנות אמון. אם מובילת השוק מרגישה צורך לעצור ולחזק מערכות, זה משפיע על כל התעשייה, כולל הסטארטאפים שמשקיעים פה. הוויכוח על השאלה כמה בטוח הוא בטוח מספיק, ומי נושא באחריות ל״דברים הרעים״ שיקרו, הוא הוויכוח שמעצב את העתיד המקצועי של כולנו.

בסוף, כנראה נצטרך להחליט מה אנחנו מוכנים לסכן כדי להתקדם.