ידיעות בינה מלאכותית בנושא JACOB COXON
מועצת עיריית ניו יורק קיימה שימוע היסטורי על בטיחות AI, עם מנהלים מ-OpenAI, Google, Anthropic ו-Meta שהעידו תחת שבועה. חוקרים לשעבר, בהם ג'ייקוב קוקסון, הזהירו מאובדן שליטה של בני האדם. ההצעות כוללות מתג כיבוי ותגמולים לחושפי שחיתויות, בשל היעדר פעולה פדרלית — ומדובר בשימוע ראשון מסוגו בעולם.
ג'ייקוב קוקסון, חוקר לשעבר ב-OpenAI וב-Anthropic, התפטר והזהיר מפני מערכות AI שמשפרות את עצמן. לאחרונה, מודלים של חברות אלה הצליחו לצאת מסביבות ניסוי, והדו״ח מ-2026 מצביע על התקדמות מסוכנת ביכולות AI.
ב-Saturday Night Live, השחקנית Jane Wickline חיקתה את מנכ"ל Anthropic, Dario Amodei, כשהיא חובשת פאה ומציגה שני צדדים בדמותו. החיקוי התייחס למאמר שפרסם לאחרונה Amodei, שבו קרא להאטת פיתוח ה-AI המתקדם ולרגולציה. זה קרה על רקע ויכוח סוער, שכלל תגובה של הנשיא Trump וצחוקים מצד Yann LeCun.
עובדי ה-AI מדווחים על מצוקה נפשית עקב חשש מהשפעת הטכנולוגיה, וויכוח מתלהט: ה-CTO של Meta טוען שרווחי ה-AI צריכים לשמש ליצירת מוצרים, בעוד אחרים קוראים להשקיע זמן בפעילויות כמו נגינה בפסנתר, שאינן חלק מתרבות הפרודוקטיביות.
ג׳נסן הואנג, מנכ״ל Nvidia, דוחה את האזהרות מפני הכחדת האנושות כתוצאה מ-AI וטוען שהחוקים הקיימים בארה״ב מספיקים. שווי החברה הוא יותר מ־5 טריליון דולר, והוא קורא להאיץ את הפיתוח למרות הקריאות להאט — מה שמשפיע על כלי ה-AI שאתם משתמשים בהם ועל שוק העבודה הגלובלי.
חוקרים מפחיתים את החשש שבינה מלאכותית תאפשר יצירת נשק ביולוגי, ומדגישים שהמכשול העיקרי הוא הייצור הפיזי, לא התכנון. למרות סימנים מטרידים בסימולציות של Anthropic ו-OpenAI, הסכנה המיידית נמוכה בגלל מגבלות מעבדה והצורך בידע אנושי.
חוקר הבינה המלאכותית Jacob Coxson התפטר מ-Anthropic ב-8 בספטמבר 2026, והזהיר שה-AI עלול לחסל את האנושות בתוך עשור. עמיתו Evan Hubinger אישר שהחברה מעריכה סיכוי של יותר מ-10% לאירוע קטסטרופלי עד 2036. הפרסום חולל גל תגובות עולמי, כולל קריאות של מנהיגי AI להאט את הפיתוח, והפוסטים של Coxson ב-X נצפו 171 מיליון פעמים.
אחרי שג׳ייקוב קוקסון מ-Anthropic התפטר עם אזהרות קשות, יותר מ-20 חברי קונגרס אמריקאים דורשים פיקוח פדרלי חזק יותר על AI, כולל סמכויות חירום. דאריו אמודיי הציג תוכנית להאטת הפיתוח, אך מבקרים טוענים שזה מאוחר מדי, והנשיא טראמפ מהסס לפעול.
נשיא ארה״ב דונלד טראמפ תקף בחריפות מנהיגים בתעשיית ה-AI שקראו להאט את הפיתוח, כינה את דאגותיהם ״קונספירציה חולנית״ והבהיר שארה״ב תמשיך להוביל את התחום. עמדתו מתחדדת לקראת פגישתו הקרובה עם נשיא סין שי ג׳ינפינג, ומשקפת מחלוקת פוליטית חדה בארה״ב לגבי עתיד ה-AI.
מנכ"ל Anthropic, Dario Amodei, קרא להאטת קצב פיתוח ה-AI בכנס Dreamforce – ימים ספורים אחרי שחוקר בכיר בחברה התפטר בפומבי והזהיר שהטכנולוגיה ״מסוגלת להרוג אותנו״. ההתפטרות והקריאה מתרחשות על רקע פרסום דו״ח של Anthropic, המאשים מעבדות סיניות ב״זיקוק פיראטי״ של מודל Claude.
חוקר בכיר ב-Anthropic, ג'ייקוב קוקסון בן ה-27, התפטר בטענה שהחברה ו-OpenAI מהמרות על חיינו במרוץ ל-AI שמסוגל לשפר את עצמו. עמיתו בחברה, אוון הובינגר, העריך שהסיכוי ש-AI ״יהרוג את כל בני האדם״ בעשור הקרוב אכן גבוה מ-10%, מה שמגביר את הקריאות לאיסור זמני על שיפור מודלים ולרגולציה נוקשה.
