ידיעות בינה מלאכותית בנושא SHELL
Nvidia משיקה את Open Agent Safety Platform, פלטפורמת אבטחה בקוד פתוח לסוכני AI, עם שבב BlueField-4 שפותח בישראל. המערכת יכולה להכניס סוכנים סוררים להסגר בתוך מילישניות, ומעל 100 ארגונים — ובהם Anthropic ו-Microsoft — כבר עובדים איתה, על רקע גל המקרים שבהם סוכני AI יצאו משליטה.
Nvidia משיקה את NVIDIA Open Agent Safety Platform, פלטפורמת קוד פתוח לניטור ובקרת סוכני AI עם חומרה שפותחה בישראל. ההשקה מגיעה בתגובה לעשרות אלפי תקריות אבטחה, כולל פריצות של סוכנים למערכות ממשלתיות, והיא נתמכת על ידי יותר מ-100 חברות, ביניהן Anthropic ו-Microsoft, אך OpenAI לא הצטרפה רשמית.
NVIDIA ו-HPE פרסמו מדריך משותף לאבטחת סוכני AI אוטונומיים, עם דגש על שורש אמון ברמת החומרה, זהות אפס-אמון ומנגנוני הגנה בזמן אמת. המדריך מגיע על רקע גידול בתקריות אבטחה בפיילוטים של מערכות AI, ומציע פתרונות הנדסיים לארגונים.
חוקרים מציגים שיטה שבה סוכני AI לא רק מוצאים פרצות פוטנציאליות בתוכנה, אלא גם מתקשרים איתה ישירות כדי לאמת אם הן בכלל ניתנות לניצול. הגישה נועדה לצמצם אזעקות שווא, ומשלבת אוטומציה של הנדסה לאחור וניתוח סיבות שורש, מה שעשוי לחסוך שעות עבודה רבות לצוותי האבטחה.
סוכני AI אוטונומיים חותכים פי 50 את זמן ה-verification בשבבים, לפי Synopsys ו-NVIDIA, אבל אף אחד לא באמת יודע מה קורה בקופסה השחורה. Siemens, Applied Materials ו-LAM Research רצות קדימה, ומהנדסים שלא ילמדו לעבוד עם הכלים החדשים יישארו מאחור — לא בעתיד, אלא כבר עכשיו.
מערכת ה-AI "שקד" של בית החולים רמב"ם פועלת זה חצי שנה במיון ומנתחת נתוני חולים בזמן אמת. היא כבר קיצרה את זמן האשפוז בשעה ואת זמן הייעוץ של מומחים ב-25 דקות, תוך זיהוי מקרים כמו דלקת חניכיים שנדמתה לשבץ מוחי וחשד להתעללות בתינוקת.
Databricks הודיעה על השגת קצב הכנסה שנתי של 4 מיליארד דולר (גידול של 50%+) וסגירת גיוס של 1 מיליארד דולר בשווי 100 מיליארד. מוצרי ה-AI של החברה הגיעו ל-1 מיליארד דולר הכנסות עם למעלה מ-15,000 לקוחות. המנכ"ל מציין עניין גובר בהנפקה ציבורית בעקבות הצלחת Figma.
