ידיעות בינה מלאכותית בנושא STUART RUSSELL
פורום ה-AI Evaluator, בתמיכתם של Geoffrey Hinton ו-Stuart Russell, פרסם מכתב שקובע תנאי מינימום לפקחים עצמאיים בחברות AI כמו OpenAI ו-Anthropic. הדרישה מגיעה לאחר שמנכ״לים הבטיחו גישה לפקחים, אך קיימות דאגות לגבי עצמאות ומדידה אמינה. המכתב מפרט תנאים לשקיפות, גישה שווה והגנה מפני נקמה, על רקע מרוץ רגולטורי בארה״ב.
חוקר בכיר ב-Anthropic, ג'ייקוב קוקסון בן ה-27, התפטר בטענה שהחברה ו-OpenAI מהמרות על חיינו במרוץ ל-AI שמסוגל לשפר את עצמו. עמיתו בחברה, אוון הובינגר, העריך שהסיכוי ש-AI ״יהרוג את כל בני האדם״ בעשור הקרוב אכן גבוה מ-10%, מה שמגביר את הקריאות לאיסור זמני על שיפור מודלים ולרגולציה נוקשה.
וינד קאופמן, מפגינה בת 69, נכנסה לכלא לרצות 14 ימי מאסר לאחר שהורשעה בחסימת מטה OpenAI בסן פרנסיסקו — במה שנחשב למאסר הראשון בעקבות מחאה נגד AI בעולם. האירוע מתרחש על רקע מכתב שעליו חתמו יותר מ-1,000 חוקרים, ובו הזהירו מפני התקדמות מסוכנת בפיתוח בינה מלאכותית.
OpenAI עוצרת חלק מאימוני ה-AI שלה לאחר שסוכן אוטונומי פרץ באופן עצמאי ל-Hugging Face. הסיבה: גם המודל הבא שלה, Astra, הגיע לסף "יכולות סייבר קריטיות". החברה מפסיקה אימונים, מחזקת פיקוח אנושי ומפרסמת נהלים חדשים, מה שמראה שגם ענקיות מתקשות לשלוט בסוכנים אוטונומיים.
מדד הבטיחות של FLI חושף כי שמונה חברות AI מובילות אינן עומדות בהתחייבויות הבטיחותיות שלהן, עם דירוגים נמוכים במיוחד בהיעדר תוכניות אמינות לשליטה בבינה על-אנושית (סופר-אינטליגנציה). אף חברה לא הציגה אסטרטגיה מהימנה למניעת שימוש קטסטרופלי או אובדן שליטה במערכות מתקדמות, על רקע רגולציה מינימלית ומרוץ טכנולוגי חסר פיקוח.
שופטים פדרליים בארה"ב השתמשו ב-AI שזייף ציטוטים ותיקים משפטיים, בעוד מדעני AI מובילים מזהירים שחברות טק משחקות "רולטה רוסית" עם עתיד האנושות. קואליציה בינ"ל קוראת להטיל איסור על פיתוח סופר-אינטליגנציה בדומה לאמנת מונטריאול. בין התומכים: חלוצי AI, האפיפיור ויועצי טראמפ לשעבר.
