OpenAI ו-Anthropic דורשות פיקוח על מודלי AI פתוחים

לפעמים יריבות עסקית נעצרת רגע לפני קו פרשת המים. OpenAI ו-Anthropic, שתי חברות שנאבקות על כל לקוח וכל דולר בעולמות ה-AI, מצאו לאחרונה נושא אחד שבו הן מסכימות: מודלי AI עם משקולות פתוחות (open-weight) מסוכנים מדי מכדי שישוחררו בלי פיקוח.

מה בעצם קרה כאן?

Anthropic, דרך ראש צוות ה-red team שלה Logan Graham, קראה השבוע לתקני בטיחות אחידים בתעשייה. בראיון ל-Fox Business הסביר Graham שהצוות שלו בודק מודלים חדשים בשלב מוקדם — האם הם יכולים לפרוץ למחשבים, לגנוב כסף, לשקר או לשדרג את עצמם מהר מדי. "אנחנו רוצים לדעת מה יכול להשתבש", אמר, "ולכן הדבר החשוב ביותר הוא לבדוק את זה מוקדם, במיוחד לפני שהמודלים וה-agents האלה יוצאים לעולם האמיתי".

OpenAI הצטרפה לעמדה דומה, מה שיצר ברית זמנית יוצאת דופן בין שתי מתחרות מרות. שתיהן חברות מודלים סגורות — כלומר, המודל שלהן רץ על השרתים שלהן, והן שומרות על שליטה מלאה במשקולות. מודלים פתוחים, לעומת זאת, מאפשרים לכל אחד להוריד, לשנות ולהריץ אותם באופן עצמאי.

למה זה מעניין עכשיו?

הטריגר המיידי הוא Kimi K3, מודל סיני עם 2.8 טריליון פרמטרים, שבחודש האחרון הפתיע את עמק הסיליקון עם ביצועים שמתחרים בחלק מהמודלים האמריקניים המובילים — במחיר שבריר מהעלות. הופעתו עוררה גל של דחיפות בוושינגטון, כולל דיבורים על הגבלות ואף סנקציות על מעבדות סיניות שחשודות ב-distillation — טכניקה שמאפשרת "לשאוב" יכולות ממודלים קיימים בלי לבנות מאפס.

המאשימים: "רגולטורית שבוייה"

הביקורת לא איחרה לבוא. חוקרים, סטארטאפים ותומכי קוד פתוח טוענים שהעמדה של OpenAI ו-Anthropic היא סוג של regulatory capture — ניסיון להשתמש בתקנות בטיחות כדי להגן על המודל העסקי הסגור שלהן מפני תחרות. David Sacks, יועץ בממשל טראמפ, העביר ביקורת דומה.

התגובה הגיעה במהירות: קואליציה של חברות — Nvidia, Microsoft, Meta, Google, Hugging Face, Mistral ו-Palantir, בין היתר — פרסמה מכתב משותף שקורא לרגולטורים להימנע מ"הגבלות מוקדמות" על מודלים פתוחים. Jensen Huang, מנכ"ל Nvidia, פרסם אתמול את הפוסט הראשון שלו אי פעם ב-X כדי לשתף את המכתב — צעד שמשקף כמה הנושא חשוב לו.

התגובה של Amodei

בתוך הלחץ, מנכ"ל Anthropic Dario Amodei פרסם פוסט בבלוג שבו הבהיר: "Anthropic מעולם לא קראה לאסור על מודלי open-weight". הוא הוסיף שמודלים פתוחים בלי יכולות מסוכנות הם "טוב ציבורי".

אבל Amodei לא חזר בו מהדאגה שלו. הוא קרא למיקוד במדיניות שונה: מניעת שבבי AI מתקדמים מממשלות סמכותניות, טיפול ב-distillation תעשייתי שמאפשר לסינים לשדרג מודלים עם הרבה פחות כוח מחשוב, ובדיקות בטיחות מנדטוריות למודלים חזקים במיוחד. לדבריו, בקטגוריות התחתונות אין צורך באיסור גורף.

מה באמת על הכף?

עבור מי שעובד בתעשייה הישראלית, הסיפור הזה רלוונטי בכמה מישורים. מודלים פתוחים הם חלק מרכזי מהאקוסיסטם המקומי — חברות ישראליות רבות בונות מוצרים על גבי מודלים כאלה, מתאימות אותם לצרכים ספציפיים, ומשתמשות בהם כדי להציע ללקוחות גמישות ושליטה בנתונים. רגולציה מחמירה על מודלים פתוחים תשפיע ישירות על היכולת הזו.

במקביל, הוויכוח חושף מתח עמוק יותר: באיזה שלב דאגות בטיחות הופכות למדיניות שמשרתת את מי שכבר מחזיק בכוח? שתי החברות הגדולות ביותר בתחום טוענות שהן דואגות לבטיחות. היריבות שלהן טוענות שהן דואגות לעצמן. בשורה התחתונה, אף אחד מהצדדים לא פועל מתוך אלטרואיזם — ומי שישלם את המחיר על ההחלטה הסופית הם בעיקר הסטארטאפים והחוקרים הקטנים יותר.