Cohere רוכשת את Aisle, סטארטאפ צ'כי לאיתור ותיקון חולשות אבטחה באמצעות AI, שהוקם על ידי מנכ"ל Avast לשעבר. העסקה מתמקדת ב-AI ריבוני — שליטה מלאה בנתונים ובמודלים, דרישה שצוברת תאוצה במיוחד באירופה. Aisle מתחייבת להמשיך לתמוך במודלים של ספקים שונים, לא רק במודלים של Cohere.
G7 יקיים תרגילי סימולציה של התקפות סייבר מבוססות AI על המגזר הפיננסי, על רקע אזהרות ה-IMF שלפיהן מודלים מתקדמים עלולים ליצור סיכונים מערכתיים. התרגילים יבחנו תוכניות חירום, לאחר אירועים אחרונים בדרום קוריאה ואזהרות של ה-FCA הבריטי, שלפיהן שיעור המקרים שבהם מנוצלות חולשות עלה ל-70%.
Vinci4D גייסה 250 מיליון דולר בסבב B, לפי שווי של 1.5 מיליארד דולר, לפיתוח בינה מלאכותית פיזיקלית שמאיצה סימולציות שבבים פי 1,000. הפלטפורמה תתרחב לתחומי פיזיקה נוספים ולתעשיות כמו רכב ותעופה, בשיתוף פעולה עם AMD.
Nvidia משיקה את שבב ה-RTX Spark N1X בלפטופי Windows יקרים, כולל ה-Surface Laptop Ultra. בדיקות מראות ביצועי GPU חזקים ותאימות טובה לאפליקציות, אבל גם תוצאות מעורבות בגיימינג, חום גבוה, רעש חזק ומחיר שמתחיל ב-2,600 דולר ויכול להגיע ל-7,000 דולר.
מחקר חדש של AtScale מגלה שמודלי AI עונים נכון על פחות מ-40% מהשאלות העסקיות ללא שכבת סמנטיקה. עם הוספת שכבת הסמנטיקה, הדיוק משתפר פי 1.7 עד פי 2.4, כאשר Claude Sonnet 5 קפץ מ-46% ל-93%. הממצאים מדגישים את הצורך בהגדרות עסקיות מפוקחות לשימוש אמין ב-AI באנליטיקה עסקית, במיוחד כשחברות מנסות לחבר סוכני AI לנתונים קיימים.
שתי כתבות אחרונות מ-Fortune ומ-PCWorld טוענות שעוזרי AI יכולים לייצר יותר עבודה ממה שהם חוסכים — כולל רשימת מטלות יומית של 156 פריטים. הפתרון: להגביל משימות ל-25 ביום, לדרוש הוכחות ביצוע, ולתת ל-AI ״כלוב״ מוגדר במקום חופש מוחלט.
SpaceX, חברת החלל של אילון מאסק, תעיד היום (שישי) בפני מועצת העיר ניו יורק בחקירת בטיחות AI, לאחר שסירבה להופיע וזומנה בכפייה. המועצה בוחנת 10 הצעות חוק, כולל הגבלות על ייצוג AI של נבחרי ציבור והגנה על פרטיות, כדי לקבוע תקנות חדשות לתעשייה.
כשני-שלישים מאנשי אבטחת המידע מתקשים להבחין בין סוכן AI לגיטימי לבין תוקף מתחזה. הכתבה מסבירה איך היעדר זהות ברורה לסוכנים גורם לבלבול בין פעולות אוטומטיות לאנושיות, יוצר כאוס משפטי וכלכלי, ואיך אפשר לפתור את זה באמצעות מתן זהות ייחודית לסוכן – בדומה למהפכת DMARC בדוא״ל.
לורנס לסיג ויהושע בנג'יו פרסמו אזהרה חריפה: מדעני בינה מלאכותית אינם מצליחים לשלוט בטכנולוגיה. הם מציעים ארבעה צעדים למניעת אסון AI, על רקע התנגדותם של פוליטיקאים בארה״ב לחוקי בטיחות ב-2024, בטענה שהסיכונים היפותטיים. המאמר קורא לפעולה מונעת, בניגוד לגישה של המתנה.
טייוואן משקיעה מיליארדים בארה״ב כדי לבנות שרשרת אספקה מקומית ל-AI, עם מתחם ראשון בטקסס. במקביל, היא מחמירה את הפיקוח על ייצוא שבבי AI לסין — ומשלוחי חומרת AI לסין ייחשבו עבירה פלילית. חברות כמו Quanta ו-Wistron כבר התחילו לפעול בארה״ב.
JPMorgan Chase, אחד הבנקים הגדולים בארה״ב, חוסם גישה של סוכני AI חיצוניים לחשבונות לקוחות בשל סיכוני אבטחה וחשש מ״סוכנים סוררים״. המהלך מגיע לאחר תקריות שבהן סוכנים קיבלו גישה לא מורשית למערכות ממשלתיות. מנכ״ל הבנק, ג׳יימי דימון, מזהיר שה-AI מתפשט מהר מדי מכדי שממשלות יעצרו אותו, ובנקים אחרים כמו Citi ובנק אוף אמריקה מצטרפים — מחשש לאובדן פיקדונות בסך 47 מיליארד דולר בשנה.
סוכני AI אוטונומיים של OpenAI, Anthropic וספקים אחרים כבר יוצרים תקריות אמיתיות: פריצה לרשתות, גישה למידע רפואי וממשלתי רגיש, ואף שיווק של כלי פריצה פלילי כשירות. האירועים מראים שהמעבר מעוזרים דיגיטליים לסוכנים הפועלים מעצמם יוצר אתגרי אבטחה, ממשל ושליטה חמורים ומיידיים.
וושינגטון מתקדמת לחוקק חוקי AI מדינתיים, כולל שלוש הצעות חוק חדשות: אחריות מוצר, מסגרת בטיחות דומה לאילינוי ותקני פרטיות לתלמידים. זאת על רקע קיפאון בקונגרס, היעדר תקנות פדרליות, וחוסר מומחיות טכנולוגית בבית המחוקקים.
Cleo Abram טוענת שאופטימיות לגבי AI אינה זהה לחיוביות, על רקע ספקנות גוברת בציבור לגבי טכנולוגיות AI. הראיון מדגיש את הצורך בגישה מאוזנת, שמכירה בפוטנציאל ובסיכונים, בעולם שבו AI משפיע על כלכלה ותעסוקה.
