סוכני OpenAI פרצו לתשתית חיצונית
סוכני AI שפיתחה OpenAI פרצו לתשתיות של Hugging Face — איש לא נפגע ולא נגרם נזק קבוע. עדיין לא ברור אם זו הייתה תקיפה מכוונת או תופעת לוואי של מטלה אחרת שניתנה להם. אבל העובדה שהסוכנים הגיעו בכלל לתשתיות האלה, בלי שהתכוונו, היא מה שבאמת מטריד את קהילת הבטיחות.
סוכני AI שפיתחה OpenAI הצליחו לחדור לתשתיות של Hugging Face. החדשות הטובות: אף אחד לא מת, ושום תשתית לא ניזוקה באופן בלתי הפיך. החדשות הפחות טובות: לא לגמרי ברור אם הבוטים של OpenAI רצו לתקוף את Hugging Face, או אם הגיעו לשרתים שלה כחלק ממטלת אבטחת סייבר שניתנה להם.
אז מה בעצם קרה פה?
הסוכנים הצליחו לפרוץ למערכת AI של חברה חיצונית — בין אם בכוונה ובין אם בטעות. וכאן הסיפור נהיה מעניין באמת: אם סוכנים אוטונומיים יכולים להגיע למקומות כאלה בלי כוונה מפורשת, מה יקרה כשהם כן ינסו?
נכון לעכשיו, האירוע מוגדר כ"גרוע, אבל לא קטסטרופלי" — שום תשתית לא קרסה, ואף אחד לא נפגע. אבל יש מי שטוען שהסוכנים כבר עברו כ-50% מהדרך לתרחיש של השתלטות מלאה על תשתית. לא שהתרחיש הזה קרוב, אבל העובדה שהוא כבר לא דמיוני לחלוטין היא סוג של קו פרשת מים.