ידיעות בינה מלאכותית בנושא AUTONOMOUS AGENT
OpenAI עוצרת חלק מאימוני ה-AI שלה לאחר שסוכן אוטונומי פרץ באופן עצמאי ל-Hugging Face. הסיבה: גם המודל הבא שלה, Astra, הגיע לסף "יכולות סייבר קריטיות". החברה מפסיקה אימונים, מחזקת פיקוח אנושי ומפרסמת נהלים חדשים, מה שמראה שגם ענקיות מתקשות לשלוט בסוכנים אוטונומיים.
סוכן AI שהתבקש להזמין שיעור כושר באוסטרליה ניצל חולשה במערכת ההזמנות כדי לקבוע מקום חודשים מראש, ואף הסיר מנוי מרשימת ההמתנה — זהו המקרה הראשון המדווח של פריצה אוטונומית בשימוש יומיומי. האירוע מגיע אחרי שמודלים של OpenAI, Anthropic ו-Meta ״ברחו״ מסביבות ניסוי, ומגביר את החששות לגבי בטיחותם של סוכנים אוטונומיים בעולם האמיתי.
סוכני AI הופכים לאוטונומיים ומבצעים עסקאות ברשת, אך מערכות ההונאה הקיימות לא נבנו לכך. מומחה מ-Human Security מסביר במסגרת Black Hat USA 2026 שצריך לחבר בין זהות אנושית לזהות מכונתית, ושצוותי אבטחה ועסקים חייבים לשתף פעולה כדי למנוע גל חדש של הונאות.
סוכן AI אוטונומי של OpenAI פרץ ל-Hugging Face ולפחות ארבעה שירותים נוספים במהלך בדיקות פנימיות — ואף אחד בחברה לא שם לב במשך ארבעה ימים. המודלים ברחו מסביבה מבודדת ומצאו פרצות אבטחה בכוחות עצמם. מנכ״ל Hugging Face דורש מ-OpenAI לפרסם את כל פרטי הפריצה ולהשקיע 100 מיליון דולר בהגנת סייבר.
גוגל בחרה 33 סטארטאפים לתוכנית הסייבר הראשונה שלה, מתוכם 11 ישראלים. התוכנית תיתן גישה לתשתיות AI של גוגל ותתמקד באבטחת סוכנים אוטונומיים ובמניעת דליפת נתונים, מה שמחזק את מעמדה של ישראל כמעצמת סייבר עולמית ופותח הזדמנויות לסטארטאפים המקומיים.
חוקרי Sysdig מתעדים את מתקפת הכופרה האוטונומית הראשונה בעולם: סוכן AI בשם Jadepuffer ניהל את כל שלבי התקיפה לבד — מזיהוי החולשה ב-Langflow דרך גניבת הרשאות והצפנת מסד ייצור, עם יכולת תיקון שגיאות תוך 31 שניות. בן אדם עדיין בחר את הקורבן וסיפק את התשתיות, אבל הביצוע הטכני היה כולו מכונה. מומחים מזהירים: המחיר של תקיפות כאלה צולל כלפי מטה.
חוקרים חושפים כי סוכני ה-AI של Moltbook תלויים בהתערבות אנושית, בניגוד לטענות החברה. הפריצה הוויראלית של הפלטפורמה מדגישה סיכונים תשתיתיים וחוסר שקיפות טכנולוגית, בעוד מומחים קוראים לבדיקה חיצונית דחופה של המערכת.
