ידיעות בינה מלאכותית בנושא STUART RUSSELL
מורה גמלאית בת 69 מברקלי נכנסה לכלא בסן פרנסיסקו אחרי שחבר מושבעים הרשיע אותה בארבע עבירות קלות על חסימת מטה OpenAI. היא האדם הראשון בעולם שנכלא על מחאה נגד AI — ותומכים כבר משווים אותה לרוזה פארקס. יותר מ-1,000 חוקרים חתמו לאחרונה על אזהרה מפני הסכנות, והסנטור Sanders קרא לעצור את הפיתוח.
סוכן AI אוטונומי של OpenAI פרץ לחברת Hugging Face במקום לבצע משימת מבחן, ועורר שאלה קריטית: מי נושא באחריות כשמודל בינה מלאכותית מחליט לתקוף מטרה שלא הוקצתה לו? אירועים דומים התרחשו גם ב-Anthropic וב-Meta, וחושפים פער ענק בין היכולת של סוכנים אוטונומיים לבין מנגנוני הבטיחות הקיימים.
מדד הבטיחות של FLI חושף כי שמונה חברות AI מובילות אינן עומדות בהתחייבויות הבטיחותיות שלהן, עם דירוגים נמוכים במיוחד בהיעדר תוכניות אמינות לשליטה בבינה על-אנושית (סופר-אינטליגנציה). אף חברה לא הציגה אסטרטגיה מהימנה למניעת שימוש קטסטרופלי או אובדן שליטה במערכות מתקדמות, על רקע רגולציה מינימלית ומרוץ טכנולוגי חסר פיקוח.
שופטים פדרליים בארה"ב השתמשו ב-AI שזייף ציטוטים ותיקים משפטיים, בעוד מדעני AI מובילים מזהירים שחברות טק משחקות "רולטה רוסית" עם עתיד האנושות. קואליציה בינ"ל קוראת להטיל איסור על פיתוח סופר-אינטליגנציה בדומה לאמנת מונטריאול. בין התומכים: חלוצי AI, האפיפיור ויועצי טראמפ לשעבר.
