המודל הראשון של Mira Murati: לא הכי חזק — וזה בדיוק הרעיון

Mira Murati, מי שהיתה ה-CTO של OpenAI ועזבה בתחילת 2024 כדי להקים את Thinking Machines Lab, מוציאה היום (ד') את המודל הראשון של החברה — Inkling. זה מודל open-weight עם 975 מיליארד פרמטרים, מאומן על טקסט, אודיו ווידאו, ומיועד לארגונים שרוצים להתאים מודל AI לצרכיהם במקום לקנות מוצר מדף. את הכסף הגדול Thinking Machines גייסה כבר לפני שנה. עכשיו מגיע מבחן התוצאה.

מה בעצם יש לנו כאן?

Inkling הוא מודל mixture-of-experts — כלומר מתוך 975 מיליארד הפרמטרים, הוא מפעיל רק כ-41 מיליארד לכל משימה. זה עיצוב שנועד לשמור על ביצועים גבוהים בלי לקרוס את תקציב המחשוב. המודל אומן על 45 טריליון טוקנים, כולל טקסט, תמונה, אודיו ווידאו, והוא מסוגל לנתח ולעבד את כל הפורמטים האלה באופן נייטיב.

המודל זמין במלוא המשקלים שלו ב-Hugging Face, ו-developers יכולים להתחיל fine-tune אותו דרך Tinker — פלטפורמת ההתאמה האישית של Thinking Machines.

אז מה ההימור הגדול?

Thinking Machines לא מנסה להתחרות ב-Anthropic או OpenAI על מי הכי חכם ב-benchmarks. החברה מודה במפורש ש-Inkling הוא "לא המודל החזק ביותר הקיים היום, פתוח או סגור". מה שהם כן מציעים הוא מודל שאפשר לקחת, לאמן מחדש על הנתונים של הארגון שלכם, ולהריץ על תשתית שאתם שולטים בה.

זה הימור על עתיד שבו חברות לא רוצות לשלם מנוי חודשי למודל גנרי — אלא בעלות על ה-AI שלהן. Satya Nadella, מנכ"ל Microsoft (שמשקיע מיליארדים גם ב-OpenAI וגם ב-Anthropic), פרסם ביום ראשון בלוג פוסט שבו הזהיר שארגונים שמשתמשים במודלים קנייניים משלמים פעמיים: פעם אחת במנוי, ופעם שנייה כשהם מזינים ידע עסקי לתוך הפרומפטים שלהם — ידע שנספג לתוך גרסאות עתידיות של המודל.

דוגמה מוחשית מהשטח: Thinking Machines עבדו עם Bridgewater Associates, קרן הגידור הגדולה בעולם, על פרויקט שבו לקחו מודל open-source קיים ואימנו אותו מחדש על המומחיות הפיננסית של החברה. התוצאה, לפי הדוח של שתי החברות: 84.7% במבחני חשיבה פיננסית — יותר ממודלים קנייניים מובילים — בעלות ריצה של בערך אחד-עשר מזו של המודלים האלה.

מי ישלם את החשבון?

Thinking Machines לא מתכוונת להרוויח מ-Inkling עצמו. ההכנסות אמורות להגיע מ-Tinker — הפלטפורמה ל-fine-tuning, התאמה אישית, ובסופו של דבר נתח מאקוסיסטם ה-hosting שנבנה סביב המודלים. זה מודל עסקי שונה ממה ש-OpenAI ו-Anthropic מוכרות: לא תשלום לפי שימוש ב-API, אלא מכירת כלים למי שרוצה לבנות על ה-open weights.

כמה מיליארדים על השולחן?

Thinking Machines גייסה 2 מיליארד דולר בסבב Seed לפי שווי של 12 מיליארד דולר — לפני שהוציאה מוצר כלשהו. Nvidia היתה בין המשקיעים, והחברות חתמו על שותפות אסטרטגי במארס האחרון לפריסה של גיגה-וואט של יכולת מחשוב Vera Rubin. דיווחים גם מדברים על עסקה של מיליארדי דולרים עם Google Cloud. מודל נוסף, Inkling-Small, כבר נמצא בבדיקות וישוחרר בהמשך.

ואיך זה עבר את מבחן ה-distillation?

אחת השאלות הרגישות בתעשייה היא האם מודלים חדשים אומנו על outputs של מתחרים. Thinking Machines מודים ש-Inkling עבר pre-training מאפס, אבל בשלב ה-post-training הם השתמשו בנתונים שנוצרו על ידי מודלים open-weight אחרים, כולל Kimi K2.5 של Moonshot AI הסינית. החברה מבטיחה שהמודל הבא ישתמש ב-post-training עצמאי לחלוטין.

מה זה אומר עלינו?

לעובדי ההייטק הישראלי זה רלוונטי בכמה מישורים. קודם כל, הפלטפורמה של Thinking Machines מאפשרת לחברות ישראליות — מסטארטאפים קטנים ועד ארגונים גדולים — לקחת מודל חזק ולשפר אותו על ה-data הפרטי שלהם. אם אתם עובדים בחברה ששוקלת להקים צוות AI פנימי, זו יכולה להיות נקודת כניסה מעניינת. בנוסף, עם 200 עובדים וגיוסים מסיביים, Thinking Machines מתחרה על אותו מאגר כישרונות שבו חברות ישראליות מחפשות מומחי ML.

החברה גם שמרה על גמישות אסטרטגית: העובדה ש-Inkling פתוח לא אומרת שכל המודלים הבאים יהיו כאלה. Murati חוותה את הדילמה הזו ב-OpenAI, כשהחברה עצרה את השחרור המלא של GPT-2 ב-2019 בגלל חששות לשימוש לרעה. הלקח: לשחרר כשזה בטוח, לשמור כשמסוכן.

בסופו של דבר, Inkling הוא לא מודל שינצח את GPT או Claude ב-benchmarks. אבל הוא כן מודל שאמור לגרום לארגונים לשאול את עצמם למה הם משלמים כל כך הרבה על מוצר שלא יכולים להתאים לעצמם. ואם זה עובד — יש פה שוק חדש לגמרי. ואם לא, תמיד אפשר לגייס עוד מיליארד.