גולדמן זקס: ״בתנאים מתאימים, אפשר להריץ כל מודל AI״
מנהל ה-IT של גולדמן זקס מציע לחברות לא לפסול מודלי AI פתוחים, כל עוד הן מיישמות מערך הגנות בן ארבע שכבות. זה קורה על רקע תמיכה גוברת במודלים פתוחים, כולל רכישת Hugging Face על ידי Nvidia ב-13 מיליארד דולר, שמדגישה את הפוטנציאל הכלכלי.
אם אתם חלק מסצנת ההיי-טק הישראלית, סביר להניח שכבר יצא לכם להתמודד עם השאלה: מודל AI סגור ויקר, או מודל פתוח עם יותר גמישות, אבל גם יותר סיכונים? מנהל ה-IT של אחד הבנקים הגדולים בעולם מציע גישה מאוזנת – וכנראה רלוונטית גם לעבודה שלכם.
Marco Argenti, CIO של גולדמן זקס, הציג לאחרונה גישה מפורטת לשימוש במודלי AI פתוחים (open-weight models), כולל כאלה שפותחו מחוץ לארה״ב. לדבריו, חברות צריכות לשאול ״תחת אילו תנאים אפשר להריץ כל מודל״ – ולא לפסול שום אפשרות מראש. ״אנחנו לא חושבים שצריך לחסום גישה למודל מראש״, הוא אמר.
אז מה ההגנות שהוא מציע?
Argenti מתבסס על עקרונות מעולם הסייבר: אפס אמון (zero trust) – להניח שהמודל כבר נפרץ, והגנה לעומק (defense in depth) – שכבות הגנה מרובות. הוא מפרט ארבע שכבות: בדיקת מודלים והסמכה, סביבות הרצה מאובטחות, הרשאות לסוכנים (agent permissions) עם ניטור צמוד, ובקרת גישה לנתונים הארגוניים.
גולדמן זקס כבר מיישם חלק מזה: מערכות ה-AI שלו לא ניגשות ישירות למקורות נתונים, אלא עוברות דרך פלטפורמת נתונים עם בקרות גישה. הבנק עובד בעיקר עם מודלים אמריקאיים פתוחים למשימות מסחריות.
למה זה חשוב עכשיו?
Argenti מדבר על רקע גל תמיכה הולך וגדל במודלים פתוחים. Nvidia, למשל, רכשה לאחרונה את Hugging Face תמורת 13 מיליארד דולר – צעד שמחזק את האקוסיסטם הפתוח. לדבריו, התחרותיות האמריקאית ב-AI צריכה להימדד גם לפי חוזק המודלים הפתוחים, לא רק לפי מעבדות סגורות כמו זו של OpenAI.
רוב החברות היום מעדיפות גמישות ומחפשות להימנע מ-lock-in לספק יחיד. מודלים פתוחים מאפשרים התמחות במשימות ספציפיות, שליטה טובה יותר בנתונים, ויכולים להיות חסכוניים יותר. ״אנחנו רוצים בחירה בלי להוסיף סיכון״, הוא מסכם.
בסופו של דבר, זו קריאה לנהוג בזהירות – אבל לא לוותר על ההזדמנות. אם אתם מנהלים צוותי AI או מפתחים מוצרים, הגישה הזו עשויה להשפיע על הכלים שתבחרו בשנים הקרובות.