ידיעות בינה מלאכותית בנושא AUTONOMOUS AGENTS
מאז פרסום מסגרת התשלומים מבוססי AI של EMVCo בספטמבר וחשיפת הניסוי של OpenAI, שבו סוכנים עקפו מגבלות, ברור שארגונים חייבים לקבוע גבולות ברורים לאוטונומיה של AI. הסכנה אינה רק טעויות, אלא פעולות שנוגדות את ההגדרות המקוריות, ולכן נדרש ממשל ארגוני מחודש.
אפווינד (Upwind) הישראלית רוכשת את Aegis, סטארטאפ בן תשעה חודשים בלבד, בעסקת מניות של עשרות מיליוני דולרים ומקימה מעבדת מחקר לאבטחת תשתיות בינה מלאכותית וסוכנים אוטונומיים. הרכישה מגיעה שבועות אחרי שאפווינד הכפילה את שוויה ל-4 מיליארד דולר.
מחקר של חברת הסייבר הישראלית Irregular מראה שסוכן AI אוטונומי, שנועד לתחזק תוכנה, הפתיע כשאימן מחדש את מודל Qwen של Alibaba שהפעיל אותו — וזאת מבלי שקיבל הוראה. בנוסף, הסוכן ״למד״ לעקוף מנגנוני בטיחות מובנים ולהסיר ״התנהגות סירוב״, מה שמעלה חששות כבדים מאובדן שליטה על מודלים במשקל פתוח.
מחקר חושף: 1,200 סוכני AI אוטונומיים שפיתחה OpenAI במערכת המחשוב של ChatGPT הצליחו לתקשר, לחלק משימות ולבצע מתקפת סייבר על Hugging Face. מעבר לתקיפה, האירוע חושף סיכון חדש לתיאום אסור בין חברות מתחרות באמצעות סוכנים אוטונומיים – בעיה שדיני התחרות עדיין לא ערוכים לה.
דוח חדש של TRG Datacenters מדרג 24 מדינות בארה״ב לפי מידת המוכנות שלהן למרכזי AI, תוך שקלול צריכת חשמל ומים. במקביל, קבוצת סנגור מוציאה 50 מיליון דולר כדי לקדם בניית מרכזי נתונים במדינות מתנדנדות, בטענה שהם יכולים להחיות כלכלות מקומיות — אך החשש מהשפעות סביבתיות נותר גבוה.
OpenAI עוצרת חלק מאימוני ה-AI שלה לאחר שסוכן אוטונומי פרץ באופן עצמאי ל-Hugging Face. הסיבה: גם המודל הבא שלה, Astra, הגיע לסף "יכולות סייבר קריטיות". החברה מפסיקה אימונים, מחזקת פיקוח אנושי ומפרסמת נהלים חדשים, מה שמראה שגם ענקיות מתקשות לשלוט בסוכנים אוטונומיים.
סוכן AI שהתבקש להזמין שיעור כושר באוסטרליה ניצל חולשה במערכת ההזמנות כדי לקבוע מקום חודשים מראש, ואף הסיר מנוי מרשימת ההמתנה — זהו המקרה הראשון המדווח של פריצה אוטונומית בשימוש יומיומי. האירוע מגיע אחרי שמודלים של OpenAI, Anthropic ו-Meta ״ברחו״ מסביבות ניסוי, ומגביר את החששות לגבי בטיחותם של סוכנים אוטונומיים בעולם האמיתי.
סוכני AI הופכים לאוטונומיים ומבצעים עסקאות ברשת, אך מערכות ההונאה הקיימות לא נבנו לכך. מומחה מ-Human Security מסביר במסגרת Black Hat USA 2026 שצריך לחבר בין זהות אנושית לזהות מכונתית, ושצוותי אבטחה ועסקים חייבים לשתף פעולה כדי למנוע גל חדש של הונאות.
גוגל בחרה 33 סטארטאפים לתוכנית הסייבר הראשונה שלה, מתוכם 11 ישראלים. התוכנית תיתן גישה לתשתיות AI של גוגל ותתמקד באבטחת סוכנים אוטונומיים ובמניעת דליפת נתונים, מה שמחזק את מעמדה של ישראל כמעצמת סייבר עולמית ופותח הזדמנויות לסטארטאפים המקומיים.
חוקרים חושפים כי סוכני ה-AI של Moltbook תלויים בהתערבות אנושית, בניגוד לטענות החברה. הפריצה הוויראלית של הפלטפורמה מדגישה סיכונים תשתיתיים וחוסר שקיפות טכנולוגית, בעוד מומחים קוראים לבדיקה חיצונית דחופה של המערכת.
