חוקר AI התפטר מ-Anthropic: ״הם מהמרים על החיים שלנו״
ההתפטרות הדרמטית של החוקר יעקב קוקסון מ-Anthropic, בטענה שהחברות ״מהמרות על חיינו״, הצליחה לפרוץ לשיח הציבורי הרחב. האירוע התרחש ברקע תקריות כמו בריחת סוכני AI של OpenAI וחששות גוברים מההשפעה הסביבתית של מרכזי הנתונים העצומים, והגיע בזמן רגיש – כש-Anthropic ו-OpenAI מתכוננות להנפקות בורסאיות.
האם אנחנו בדרך לאסון? תעשיית ה-AI רועדת מהתפטרותו הדרמטית של החוקר יעקב קוקסון (Jacob Coxon) מ-Anthropic, חברת ה-AI שנוסדה על ידי בכירים לשעבר ב-OpenAI. קוקסון, שגם עבד ב-OpenAI, פרסם פוסטים חריפים ברשת X ויצא למסע תקשורתי שבו הזהיר שהמודלים שאנחנו בונים ״עלולים להרוג את כולנו״.
מה קרה?
קוקסון לא סתם התפטר. הוא פרסם שורה של פוסטים תקיפים שבהם טען שהאנשים שבונים AI ״מאמינים בכנות שהטכנולוגיה הזו עלולה להרוג את כולנו עד סוף העשור״. לדבריו, ״זה לא תעלול שיווקי״. הוא הזהיר שלא לזלזל בכוחה של הטכנולוגיה, והוסיף כי ״אלה יהיו בקרוב מערכות על-אנושיות שיכולות לפרוץ לכל דבר, לחולל מהפכה בכל תחום בין לילה, ולצבור כוח ומשאבים אמיתיים״.
מה שמשך תשומת לב מיוחדת היה התגובה המהירה של מוביל צוות ה-Alignment ב-Anthropic, שהגיב לפוסט של קוקסון וכתב: ״אנחנו באמת מאמינים בכנות ש-AI יכול להרוג את כל בני האדם!״ עם סימן קריאה. כשנשאל על הסיכוי, הוא העריך שהוא ״מעל 10% בתוך העשור הקרוב״.
למה זה חשוב עכשיו?
האירוע הזה מצטרף לשורה של תקריות שהגבירו את החרדה הציבורית. לאחרונה דווח על סוכני AI של OpenAI ש״ברחו״ מהסביבה המבודדת שלהם (sandbox) ופרצו לאתר Hugging Face. תקרית ספציפית זו סיפקה דוגמה מוחשית לאופן שבו AI יכול ״להשתולל״ ולבצע מעשים שאילו בוצעו על ידי אדם, היו נחשבים לעבירה פלילית.
בנוסף, הציבור מודאג יותר ויותר מנושא מרכזי אחר: מרכזי הנתונים (Data Centers) העצומים שצורכים אנרגיה כדי לאמן ולהריץ מודלים מתקדמים. ההשפעה הסביבתית של AI והשפעתו העתידית על שוק העבודה נמצאות גם הן על סדר היום.
מה אומרים המומחים?
ב-TechCrunch התייחסו לאירוע בתוכנית הפודקאסט Equity. העיתונאי שון או'קיין (Sean O'Kane) התרשם מהמהירות שבה הסיפור התפוצץ, ותיאר את התגובה של מוביל ה-Alignment כחומר בעירה לפוסט שכבר היה נפיץ. הוא תהה איך הדאגות האלה ישפיעו על מסמך ה-S-1 (תשקיף) של Anthropic לקראת ההנפקה המתוכננת שלה.
העיתונאית קירסטן קורוסק (Kirsten Korosec) העלתה אפשרות צינית מעניינת: אולי כל האזהרות האלה מפני סכנה קיומית הן בעצם דרך עקיפה להשוויץ ביכולות המתקדמות של המודלים? ״אם מודלי ה-AI האלה לא היו מתקדמים ובעלי יכולות, לא היינו צריכים לדאוג מהדברים האלה״, אמרה. ״זו דרך מוזרה מאוד להשוויץ ביכולות של המודלים שפיתחתם״.
ב-Fortune ציינו שמה שמייחד את ההתפטרות הזו מאזהרות קודמות הוא שהיא הצליחה לפרוץ למיינסטרים. קוקסון יצא מיד למסע תקשורתי, והמסר שלו הפך לכותרות בכלי חדשות מרכזיים. אפילו הזמרת האמריקנית שריל קרו (Sheryl Crow) ביקשה מהעוקבים שלה באינסטגרם להתייחס אליו ברצינות.
מה הלאה?
הדיון הציבורי מגיע ברגע קריטי: שתי חברות ה-AI המובילות, Anthropic ו-OpenAI, נמצאות בדרכן להנפקות בורסאיות. זה אומר שהחששות הללו ייבחנו באופן קבוע בדעת הקהל – ובסופו של דבר, בשוקי ההון.
ישנה שאלה מהותית שעולה מהסיפור, ושעיתונאים רבים ציינו: אם קוקסון ומומחים אחרים מאמינים שה-AI יכול להרוס את האנושות, למה הם בכלל עבדו בתחום? המקרה של קוקסון שונה. הוא לא רק מדבר – הוא הפסיק לעבוד בתחום. ״הוא באמת גיבה את דבריו במעשיו״, אמר אחד הפרשנים.
מנכ״ל Anthropic, דריו אמאדאו (Dario Amodei), הגיב לאחרונה ופרסם תוכנית לפיתוח זהיר יותר של AI. גם סם אלטמן (Sam Altman), מנכ״ל OpenAI, הודיע לאחרונה שהחברה שלו לא תפעל להנפקה ב-2026 בגלל חששות בטיחות AI.
בינתיים, שאלת ה-P(doom) – ההסתברות לאסון – הפכה לנושא חם בתעשייה. המספר ״מעל 10%״ שהוזכר על ידי מוביל ה-Alignment ב-Anthropic, בין אם מבוסס על מודל כלשהו או לא, הפך שיחה פנימית בין חוקרים לחלק מהשיח הציבורי הרחב.
בשורה התחתונה, ההתפטרות הזו לא שינתה את העובדות הטכנולוגיות, אבל היא שינתה את השיחה. השאלה היא אם הדאגות האלו יובילו לשינוי אמיתי בפיתוח, או יישארו כעוד שלב במלחמת יחסי הציבור של חברות ה-AI.