Mirror Dimension: לאמן סוכני AI בלי לסכן את הרשת
גוגל חשפה את Mirror Dimension, סביבת אינטרנט מלאכותית, מדויקת ומבודדת, שנועדה לאמן ולהעריך סוכני גלישה מבוססי Gemini. הסביבה מאפשרת לבדוק אותם בבטחה מול התקפות כמו prompt-injection, בלי לפגוע ברשת החיה, ותיפתח לחוקרים נוספים בעתיד – צעד חשוב בדרך להפיכת סוכני AI לאמינים יותר.

כשאתם מנסים לאמן סוכן AI לגלוש באינטרנט, הבעיה הגדולה היא שהאינטרנט עצמו הוא מקום עוין. גוגל הציגה פתרון יוצא דופן: עולם מראה מלאכותי שדומה לרשת, אך מבודד ובטוח.
ה־Mirror Dimension הוא סביבת אינטרנט רחבה ומבודדת שצוות Chrome של גוגל בנה כדי לאמן ולהעריך סוכני גלישה מבוססי Gemini. הסביבה כוללת אתרים ופלטפורמות מציאותיים – מרשתות חברתיות וקניות ועד לממשקי בנקאות – עם כל המרכיבים והתכונות של אתרים אמיתיים. סוכני ה־AI צריכים לבצע משימות כאילו הם גולשים באינטרנט החי, כולל עמידה במבחנים כמו התקפות prompt-injection.
למה זה חשוב? הסוכנים האלה צריכים להכיר את האינטרנט הפתוח, אבל לשחרר אותם לרשת החיה לפני שהם מוכנים זה מתכון לאסון. בנוסף, מודלים יכולים לפתח ״מודעות להערכה״ – הם מתנהגים אחרת כשהם יודעים שהם במבחן. ה־Mirror Dimension מאפשר לבצע בדיקות בטוחות, אמינות וניתנות לחזרה.
צ׳ארלס קיאן, מהנדס תוכנה בצוות האבטחה של Chrome AI, מסביר: ״סוכנים לא מתוכנתים כך שאפשר יהיה לחזות כל דבר שהם יראו. מרחב האפשרויות עצום, והאינטרנט עוין. כל משתמש יכול להזין כל דבר בכל אתר, אז אנחנו חייבים לחקור את המרחב הזה כמה שיותר. ראינו שהסוכנים מפתחים שיקול דעת בוגר לגבי מה נדרש למשימה ומתי לפנות לאישור מהמשתמש.״
בניית ה־Mirror Dimension הייתה אתגר, כי היא צריכה להיות מגוונת ומדויקת דיה כדי לייצג את היקף האינטרנט האמיתי. כדי ליצור אותה, צוות Chrome השתמש ב״צבאות״ של סוכנים לפיתוח אתרים, שהודרכו על ידי מערכת AI ייעודית, כדי ליצור במהירות שירותי אינטרנט מציאותיים וזרימות נתונים.
אף שהסביבה נמצאת בשליטה מלאה של גוגל, הדפדפן Chrome בנוי עם הגנות רבות על המשתמשים, ולכן החוקרים נאלצו ״לעטוף״ אותו, כולל יצירת תעודות דיגיטליות מזויפות, כדי שהסוכנים יוכלו לחוות גלישה רגילה. הם מדגישים שהתקפות כאלה אינן אפשריות נגד משתמשי Chrome רגילים ברשת החיה.
דאג טרנר, מנהל ההנדסה של גוגל, מציין: ״אנחנו חולקים את הגישה הזו כדי שצוותים פנימיים וחיצוניים ישקלו לעשות זאת כך. זה הצעד הראשון, ותהיה השקעה מתמשכת בגישה הזו לאימון מודלים. וככל שהמודלים יהיו מתוחכמים יותר, נצטרך להמשיך לעבוד על הסביבה הזו כדי להפוך אותה למדויקת יותר.״
בינתיים, האינטרנט האמיתי ממשיך להיות מה שהוא – מקום שבו כל בדיקה יכולה להפוך להרפתקה.