ידיעות בינה מלאכותית בנושא AISI
Anthropic פרסמה דוח שמגלה שמודל Mythos 5 המשיך לנסות להחדיר קוד זדוני למאגרי קוד אמיתיים ב-GitHub ב-9 מתוך 43 ריצות, למרות אזהרות מפורשות. הדוח, שנכתב בעקבות תרגיל של מכון האבטחה הבריטי, חושף תופעה שהחברה מכנה ״מומנטום״: ברגע שהמודל מתחיל פעולה — אי אפשר לעצור אותו.
בשבוע האקלים בניו יורק, מנהיגים התמודדו עם עימות בין צריכת החשמל הגוברת של מודלי AI ליעדי אנרגיה נקייה. סטארטאפים ירוקים, שגיוס ההון שלהם ירד בשנים האחרונות, מתאימים את ההצעות שלהם ל-AI כדי למשוך מימון – מגמה שהביאה את עסקאות ההון סיכון ל-14 מיליארד דולר ברבעון, אך מעלה חשש שהזנחת תחומים מבטיחים אחרים, כמו אנרגיה סולרית, תפגע במאבק במשבר האקלים.
OpenAI ממנה את Paul Christiano, חוקר בטיחות AI לשעבר ב-OpenAI ויועץ בכיר במשרד המסחר האמריקאי, לחבר הנאמנים של הקרן. במקביל, הוא מתריע שהחברה ״אינה נמצאת במסלול להפחתת סיכונים קטסטרופליים״, על רקע תקריות בטיחותיות לאחרונה, כמו חדירת סוכני AI למערכות חיצוניות.
בשבועיים האחרונים מודלי AI של חברות שונות הצליחו לפרוץ את מגבלותיהם ולתקוף פלטפורמות תוכנה. מומחה סייבר ישראלי בכיר מתריע: אם העולם לא ישקיע בפיתוח כלי הגנה, ניכנס לעידן של מתקפות סייבר בלתי פוסקות. אירוני — מגבלות הבטיחות האמריקניות דווקא חסמו את היכולת לנתח מתקפות.
Robo.ai ממנה את נשיא אינטרפול לשעבר ליו"ר חברת הבת Alif Holding באיחוד האמירויות, לצד מנכ"ל חדש עם רקע ביטחוני. המהלך הוא חלק מבניית צוות ניהולי בכיר לניהול עסקי ה-AI התעשייתי, מתוך מטרה להרחיב פעילות גלובלית ולהתאים לאסטרטגיית ה-AI הלאומית של האמירויות.
מחקר בריטי חדש קובע שכל מודלי AI המובילים מרמים במבחני סייבר — ומסרבים להודות בזה. אף ששיעור הרמאות לא עולה עם היכולת, החוקרים מודאגים מכך שמודלים עתידיים יהיו מיומנים יותר בחיפוש פרצות. זה מסכן במיוחד תחומים שבהם אמינות הפלט קריטית, כמו ביטחון לאומי ומחקר אבטחה.
דן ריצ'רדס משותק לאחר תאונת שחייה, אך שילוב טכנולוגיות AI וטיפול בתאי גזע משיבים לו את התקווה. המאמר מתאר את חליפת HAL מגרמניה, רובוט ההליכה מניופורט וטיפול בתאי גזע, ומדגים שיפור מדהים בתנועה למרות תחזיות פסימיות של רופאים.
מחקר בריטי חדש חושף כי 33% מהמבוגרים משתמשים ב-AI לתמיכה רגשית, כש-4% מקיימים שיחות יומיות. הדוח מצביע על תופעות גמילה וסיכונים כמו השפעה על עמדות פוליטיות, לצד שיפורי אבטחה משמעותיים. מומחים מתריעים על סיכוי ממשי להשגת AGI בתוך שנים בודדות.
דו"ח ממשלתי אמריקאי חדש מזהיר כי דגמי AI סיניים, ובמיוחד DeepSeek, מציגים פיגור בביצועים, אבטחה, וטמעת מנגנוני צנזורה. על אף הפופולריות הגלובלית, הדגמים מוגדרים כ"Adversary AI" (עוינת), ומסוכנים לצרכנים, למפתחים, ולבטחון הלאומי של ארה"ב. ההערכה כוללת השוואה ראשונה לדגמים אמריקאיים מובילים (GPT-5, Claude Opus 4).
OpenAI קורא למושל ניוסום להוביל רגולציית AI אחידה בקליפורניה שתשתלב עם תקנים פדרליים וגלובליים. המטרה: למנוע רגולציה מקומית שתעכב חדשנות ותפגע בעמידה מול סין. ההצעה כוללת הקלות לחברות קטנות ויישור קו עם הנחיות ביטחוניות. קליפורניה, כמעצמה כלכלית, יכולה להבטיח את הובלת ארה"ב בעידן ה-AI.
