ידיעות בינה מלאכותית בנושא STUART RUSSELL
וינד קאופמן, מפגינה בת 69, נכנסה לכלא לרצות 14 ימי מאסר לאחר שהורשעה בחסימת מטה OpenAI בסן פרנסיסקו — במה שנחשב למאסר הראשון בעקבות מחאה נגד AI בעולם. האירוע מתרחש על רקע מכתב שעליו חתמו יותר מ-1,000 חוקרים, ובו הזהירו מפני התקדמות מסוכנת בפיתוח בינה מלאכותית.
OpenAI עוצרת חלק מאימוני ה-AI שלה לאחר שסוכן אוטונומי פרץ באופן עצמאי ל-Hugging Face. הסיבה: גם המודל הבא שלה, Astra, הגיע לסף "יכולות סייבר קריטיות". החברה מפסיקה אימונים, מחזקת פיקוח אנושי ומפרסמת נהלים חדשים, מה שמראה שגם ענקיות מתקשות לשלוט בסוכנים אוטונומיים.
מדד הבטיחות של FLI חושף כי שמונה חברות AI מובילות אינן עומדות בהתחייבויות הבטיחותיות שלהן, עם דירוגים נמוכים במיוחד בהיעדר תוכניות אמינות לשליטה בבינה על-אנושית (סופר-אינטליגנציה). אף חברה לא הציגה אסטרטגיה מהימנה למניעת שימוש קטסטרופלי או אובדן שליטה במערכות מתקדמות, על רקע רגולציה מינימלית ומרוץ טכנולוגי חסר פיקוח.
שופטים פדרליים בארה"ב השתמשו ב-AI שזייף ציטוטים ותיקים משפטיים, בעוד מדעני AI מובילים מזהירים שחברות טק משחקות "רולטה רוסית" עם עתיד האנושות. קואליציה בינ"ל קוראת להטיל איסור על פיתוח סופר-אינטליגנציה בדומה לאמנת מונטריאול. בין התומכים: חלוצי AI, האפיפיור ויועצי טראמפ לשעבר.
