ידיעות בינה מלאכותית בנושא EVAN HUBINGER
הצעת החוק בבריטניה, שנוסחה על ידי חבר הפרלמנט אלכס סובל, מנסה לאסור AI שיכול לבטל סמכויות מדינה. המהלך מגיע בעקבות אזהרות ממדענים ב-Anthropic וב-OpenAI על סיכוי של יותר מ-10% להכחדת האנושות, ויותר מ-70 חברי פרלמנט קוראים לראש הממשלה לתמוך באיסור בינלאומי.
נשיא ארה״ב דונלד טראמפ תקף בחריפות מנהיגים בתעשיית ה-AI שקראו להאט את הפיתוח, כינה את דאגותיהם ״קונספירציה חולנית״ והבהיר שארה״ב תמשיך להוביל את התחום. עמדתו מתחדדת לקראת פגישתו הקרובה עם נשיא סין שי ג׳ינפינג, ומשקפת מחלוקת פוליטית חדה בארה״ב לגבי עתיד ה-AI.
חוקר בכיר ב-Anthropic, ג'ייקוב קוקסון בן ה-27, התפטר בטענה שהחברה ו-OpenAI מהמרות על חיינו במרוץ ל-AI שמסוגל לשפר את עצמו. עמיתו בחברה, אוון הובינגר, העריך שהסיכוי ש-AI ״יהרוג את כל בני האדם״ בעשור הקרוב אכן גבוה מ-10%, מה שמגביר את הקריאות לאיסור זמני על שיפור מודלים ולרגולציה נוקשה.
