ידיעות בינה מלאכותית בנושא JACOB COXSON
מועצת עיריית ניו יורק קיימה שימוע היסטורי על בטיחות AI, עם מנהלים מ-OpenAI, Google, Anthropic ו-Meta שהעידו תחת שבועה. חוקרים לשעבר, בהם ג'ייקוב קוקסון, הזהירו מאובדן שליטה של בני האדם. ההצעות כוללות מתג כיבוי ותגמולים לחושפי שחיתויות, בשל היעדר פעולה פדרלית — ומדובר בשימוע ראשון מסוגו בעולם.
מנכ״ל OpenAI סם אלטמן טוען שהעולם צריך לקבל את העובדה ש״דברים רעים״ יקרו כתוצאה מה-AI, בתמורה ליתרונות — בניגוד לגישת Anthropic, שדוגלת בהאטה. זאת בזמן ש-OpenAI דוחה את ההנפקה בשנה כדי לחזק את מנגנוני הבטיחות, והקונגרס עדיין לא הצליח להעביר חוק AI פדרלי.
ג'ייקוב קוקסון, חוקר לשעבר ב-OpenAI וב-Anthropic, התפטר והזהיר מפני מערכות AI שמשפרות את עצמן. לאחרונה, מודלים של חברות אלה הצליחו לצאת מסביבות ניסוי, והדו״ח מ-2026 מצביע על התקדמות מסוכנת ביכולות AI.
ג׳נסן הואנג, מנכ״ל Nvidia, דוחה את האזהרות מפני הכחדת האנושות כתוצאה מ-AI וטוען שהחוקים הקיימים בארה״ב מספיקים. שווי החברה הוא יותר מ־5 טריליון דולר, והוא קורא להאיץ את הפיתוח למרות הקריאות להאט — מה שמשפיע על כלי ה-AI שאתם משתמשים בהם ועל שוק העבודה הגלובלי.
בילאל צ'וגטאי, חוקר בכיר בתחום ה-AI, עוזב את Google DeepMind ומצטרף ל-BlueDot Impact. הוא טוען שחלון ההזדמנות למנוע אסון הולך ונסגר, ותעשיית הסייבר הישראלית מפקפקת בתרחישי הבלהות — מה שמעמיק את הקרע בין מומחי בטיחות לחוקרי מודלים.
אחרי שג׳ייקוב קוקסון מ-Anthropic התפטר עם אזהרות קשות, יותר מ-20 חברי קונגרס אמריקאים דורשים פיקוח פדרלי חזק יותר על AI, כולל סמכויות חירום. דאריו אמודיי הציג תוכנית להאטת הפיתוח, אך מבקרים טוענים שזה מאוחר מדי, והנשיא טראמפ מהסס לפעול.
הצעת החוק בבריטניה, שנוסחה על ידי חבר הפרלמנט אלכס סובל, מנסה לאסור AI שיכול לבטל סמכויות מדינה. המהלך מגיע בעקבות אזהרות ממדענים ב-Anthropic וב-OpenAI על סיכוי של יותר מ-10% להכחדת האנושות, ויותר מ-70 חברי פרלמנט קוראים לראש הממשלה לתמוך באיסור בינלאומי.
נשיא ארה״ב דונלד טראמפ תקף בחריפות מנהיגים בתעשיית ה-AI שקראו להאט את הפיתוח, כינה את דאגותיהם ״קונספירציה חולנית״ והבהיר שארה״ב תמשיך להוביל את התחום. עמדתו מתחדדת לקראת פגישתו הקרובה עם נשיא סין שי ג׳ינפינג, ומשקפת מחלוקת פוליטית חדה בארה״ב לגבי עתיד ה-AI.
