Anthropic בראש מדד בטיחות AI

דוח חדש ממכון Future of Life מראה שחברות ה-AI המובילות – כולל Anthropic, OpenAI ו-Google DeepMind – נסוגו מהתחייבויות בטיחות מרכזיות, אפילו כשהמודלים שלהן הופכים חזקים יותר. אם תהיתם למה זה חשוב, זה קורה בדיוק כשהממשלה עדיין לא קבעה חלופות יציבות.

מדד בטיחות ה-AI של המכון מדרג את Anthropic במקום הראשון עם ציון C+, ואחריה OpenAI ו-Google DeepMind עם C. Meta השתפרה למקום הרביעי, בעוד ש-xAI ירדה למקום השביעי. החברות הללו שינו או ביטלו התחייבויות קודמות לעצור פיתוח אם מערכותיהן יתקרבו לסף סכנה מסוים – מה שהפאנל תיאר כ"הזזת הקורות", ובכך חותר תחת מסגרות בטיחות ברחבי התעשייה.

"חברות AI דוהרות לעבר צוק", אמר יו"ר המכון, Max Tegmark. "למרות שהן מכירות בסיכונים הגדולים של בינת-על מלאכותית, הן ממשיכות לבנות אותה."

הדוח מגיע על רקע אזהרות דומות באו"ם. "אולי אנחנו הדור האחרון שיכול לקבוע את התנאים שבהם אנושות ומכונות מתקיימות יחד", אמר מזכ"ל האו"ם António Guterres בכנס בג'נבה. מומחים ציינו מערכות שמשתמשות ב"סחיטה, רמייה ואפילו שיגור נשק גרעיני במבחנים", כפי שציין Stuart Russell, פרופסור מאוניברסיטת UC Berkeley.

נקודה מעניינת נוספת: השימוש המסחרי ב-AI על ידי צבאות גדל. חברות שאסרו בעבר עבודה צבאית – כמו Anthropic, OpenAI ו-Google – עכשיו משתפות פעולה עם הצבא. "Boy oh boy has that changed", אמר Tegmark.

מנגד, Mistral טענה שהגישה של הדוח מענישה מאמצי קוד פתוח. "המודלים שלנו הם open weight, מה שמאפשר לארגונים לקבוע איך לכוונן אותם ולהטמיע בקרות בטיחות ספציפיות", נמסר מהחברה.

השיטה: שבעה בודקים חיצוניים העניקו ציונים ב-37 אינדיקטורים בשש קטגוריות, בהתבסס על מדיניות ציבורית, מחקר וגילויי חברות. קטגוריית הבטיחות הקיומית הייתה החלשה ביותר. הפאנל מציין מאמצים כמו מחקר interpretability, ניטור chain-of-thought ו-provisions ל-loss-of-control, אך טוען שהם אינם מספיקים למנוע ממערכת מתקדמת מספיק לברוח משליטה אנושית.

למרות הכול, המכון מדווח שהסקר שלו כבר משפיע על דיונים פנימיים בחברות, ויותר מחצי מהן השתתפו הפעם, לעומת תחילת הדרך שבה היה עניין מועט. "זה מראה שאכפת להם", אמר Tegmark. בינתיים, הציונים נשארים נמוכים – ואף חברה לא מקבלת A.