ג'ייקוב קוקסון התפטר מ-Anthropic: ״ה-AI מהמר על חיינו״

כשג'ייקוב קוקסון, חוקר בינה מלאכותית בן 27, פרסם אתמול את הפוסט שלו ב-X, הוא לא רק התפטר מעבודתו. הוא שפך אור על פחדים פנימיים בתעשיית ה-AI – פחדים שמשותפים, לדבריו, לאנשים שבונים את הטכנולוגיה הזו, כולל מנהלים בכירים.

קוקסון, שהשלים שלוש שנות עבודה בתחום, התחיל את הקריירה שלו ב-OpenAI כחבר בצוות הטכני, מ-2023 עד יולי 2026. ב-OpenAI, הוא עסק במחקר על מודלים מתקדמים, כולל עבודה על GPT-4o. לאחר מכן, הוא עבר ל-Anthropic כחוקר ביולי 2026. אתמול, פחות מחודשיים לאחר המעבר, הוא הודיע על התפטרותו.

בפוסט שצבר מיליוני צפיות, קוקסון האשים את שתי החברות – OpenAI ו-Anthropic – בכך שהן ״מהמרות על החיים שלנו״ במרוץ לפיתוח בינת־על עם יכולת שיפור עצמי. ״אף אחת מהחברות לא נוהגת באחריות״, הוא כתב. ״הן מתחרות ישירות על פיתוח בינת־על עם יכולת שיפור עצמי ומהמרות על חיינו.״

דבריו היו חריפים וברורים. ״האנשים שבונים AI מאמינים בכנות שזה יכול להרוג את כולנו עד סוף העשור״, הוסיף. ״זה לא תעלול שיווקי. אם כבר, רבים מהמנהלים והחוקרים הבכירים ימתנו את הניסוח שלהם בתקשורת כדי להישמע הגיוניים – אבל אני שומע את אותם אנשים מביעים פחד באופן פרטי.״

קוקסון הזהיר מפני ההשלכות של התקדמות מהירה. ״אל תזלזלו בכוח של הטכנולוגיה הזו״, הוא אמר. ״אלו יהיו בקרוב מערכות על־אנושיות שיכולות לפרוץ הכול, לחולל מהפכה בן לילה ולרכוש כוח ומשאבים אמיתיים. כולנו עדים להתקדמות בכל התחומים, וההתקדמות לא מאטה.״ הוא אף טען ש״שום פעילות אנושית אחרת לא מציבה רמת סכנה כזו״, והדגיש שהטכנולוגיה עלולה לצאת משליטה.

דבריו קיבלו תמיכה לא צפויה מעמיתו ב-Anthropic. Evan Hubinger, מוביל צוות בדיקות הלחץ בתחום היישור ב-Anthropic, הגיב בפוסט נפרד וטען שקוקסון ״צודק״ בטענתו שחוקרים מסוימים מאמינים בסיכון קיומי. Hubinger אף הודה שהוא חושב באופן אישי שיש יותר מ-10% סיכוי ש-AI יגרום להכחדת האנושות בעשור הקרוב. עם זאת, הוא הדגיש שהמודלים הנוכחיים מסוכנים פחות, והדאגה שלו ממוקדת במערכות עתידיות עם יכולת שיפור עצמי – תרחיש ש-Anthropic עצמה חקרה בעבר.

קוקסון מבחין בין שתי החברות. ב-OpenAI, הוא טוען, רבים לא הפנימו לעומק את ההשלכות המזיקות על הציוויליזציה. ב-Anthropic, לעומת זאת, הסיכונים מובנים היטב, אך החברה נמצאת במרוץ כדי להגיע לשם ראשונה, מתוך אמונה שאף אחד אחר לא יפעל באחריות. ״הם מאמינים שאף אחד אחר לא יפעל באחריות, אז הם חייבים לעשות את זה בעצמם, למרות הסיכון״, הסביר.

אז מה בעצם קרה כאן? התפטרותו של חוקר צעיר מחברה שמתגאה בדגש שלה על בטיחות ה-AI חושפת את הקרע בין השאיפה לחדשנות לבין הדאגה לבטיחות. קוקסון קורא לעמיתיו בתחום לבחון מחדש את תפקידם במרוץ החימוש הטכנולוגי ולדחוף להאטת קצב הפיתוח באמצעות הסכמים בינלאומיים.

לתעשיית ה-AI יש היסטוריה של התעלמות מהתראות, אבל הפוסט הוויראלי הזה מצביע על כך שהפחדים האלה מהדהדים אצל רבים. חברות כמו Anthropic ו-OpenAI מובילות את המרוץ, אך כאשר חוקרים מתחילים לדבר בגלוי על סיכונים קיומיים, זה סימן שהמצב רציני. עבור אנשי ההייטק שעוקבים אחרי ההתפתחויות, הסיפור הזה מזכיר שפיתוח אחראי הוא לא רק עניין תיאורטי – הוא משפיע על כולנו.

בסופו של דבר, השאלה היא לא אם ה-AI ישנה את העולם, אלא אם נצליח לשלוט בו לפני שהוא ישנה אותנו – או ישמיד אותנו.