Meta משיקה מודל שמריץ סוכני AI על הלפטופ שלכם — בלי ענן

Meta שחררה היום את Muse Glimmer — מודל AI חדש עם 30 מיליארד פרמטרים, שנבנה במיוחד כדי להריץ סוכני בינה מלאכותית ישירות על המחשב האישי שלכם, בלי להעביר דאטה לשרתים בענן. זה אומר שתוכלו, תיאורטית, להריץ תהליכי עבודה שלמים עם agents — כולל קריאה ל-external tools, כתיבת קוד, עבודה עם קבצים וצילומי מסך — מהלפטופ או מהמחשב האישי שלכם.

מה בדיוק יצא פה?

Muse Glimmer הוא מודל open-weight עם 30B פרמטרים, ועם חלון קונטקסט של 128,000 טוקנים. הוא תומך בטקסט ובתמונות, ותומך ביותר מ-100 שפות. הרישיון הוא Apache 2.0 — מה שאומר שכל אחד יכול להוריד את ה-weights, לערוך, לשנות ולהטמיע אותם בפרויקטים מסחריים בלי הגבלה מיוחדת.

המודל הזה הוא בעצם הגרסה ה"קלה" (distilled) של Muse Spark, המודל החזק יותר של Meta שהושק מוקדם יותר השנה. ב-Meta אומרים שה-weights של Muse Spark 1.2 עצמו ייפתחו גם הם בשבועות הקרובים.

רגע, זה באמת רץ על לפטופ?

כאן נכנסים לפרטים הטכניים שכדאי לכם להכיר: כדי להריץ את Glimmer אתם צריכים GPU עם לפחות 24GB VRAM. זה אומר ש-MacBook Pro עם שבב M-series מהשנים האחרונות יעבוד, וכך גם מחשב עם GPU ייעודי ברמת RTX 4090 ומעלה. זה לא משהו שכל עובד הייטק ממוצע יריץ על הלפטופ הישן שלו, אבל זה כן נגיש הרבה יותר ממודלים גדולים שדורשים חוות שרתים שלמה.

ב-Meta מדמיינים שימושים כמו ניהול לוחות זמנים, עריכת טיוטות של הודעות, ארגון קבצים ותהליכי אוטומציה מורכבים — בדיוק הדברים שדורשים גישה מאסיבית לדאטה אישי. היתרון: הכול רץ מקומית, על המכשיר שלכם. שום דבר לא נשלח החוצה.

מה צוקרברג באמת רוצה לומר?

במקביל להשקה, מארק צוקרברג פרסם מניפסט באורך 6,000+ מילים שמסביר את החזון של Meta. המסר המרכזי: בינה מלאכותית צריכה להיות נגישה לכולם, ולא מרוכזת בידי חברות בודדות — אמריקאיות, סיניות או אחרות. הוא הזהיר שריכוז השליטה ב-AI בידי שחקנים קטנים עלול לייצר סיכונים, וטען שמודלים פתוחים הם הפתרון.

צוקרברג גם קרא לממשל האמריקאי להסיר חסמים שמקשים על מודלים אמריקאיים בקוד פתוח להתחרות מול מודלים מסין. "המדיניות חייבת להפחית את החיכוך הזה אם אנחנו רוצים שמודלים אמריקאיים פתוחים יובילו בטווח הארוך," הוא כתב. הוא הוסיף שהוא לא מאמין ש"הגבלת גישה למודלים זרים היא פתרון יעיל."

מה זה אומר על שוק ה-AI?

Meta מנסה כבר תקופה להיכנס חזק יותר לשוק ה-AI, אחרי שמאז השקתה של Llama, החברה מתקשה להדביק את הפער מול OpenAI, Anthropic ו-Google — כולן עם מודלים סגורים וחזקים יותר. הפעם, נראה שהאסטרטגיה ברורה יותר: ללכת all-in על open-source, להציע מודלים שרצים מקומית, ולנסות לשבש את המודל הכלכלי של מתחרות שגובות על API calls.

עבור מפתחים, זה אומר שתוכלו להריץ agents בפרודקשן בלי לשלם על כל קריאה ל-API. עבור אנשי אבטחת מידע, העובדה שמדובר במודל open-weight מאפשרת לבחון את המודל מבפנים — גם אם הוא לא open-source מלא (כי עדיין אין גישה מלאה לנתוני האימון).

השורה התחתונה

Glimmer הוא לא מודל שיהפוך את עולם ה-AI על הראש — מודל עם 30B פרמטרים אינו מתחרה ישיר ל-GPT-4 או Claude. אבל הערך פה הוא באסטרטגיה: מודל יעיל מספיק כדי לרוץ מקומית, ברישיון פתוח, ומיועד לסוכנים שמבצעים משימות מורכבות. אם אתם מפתחים שמחפשים חלופה זולה ונגישה למודלים סגורים — זה שווה בדיקה.

Meta כנראה לא הולכת לנצח את OpenAI במלחמת ה-benchmarks, אבל היא כן מנסה לנצח את המשחק הכלכלי. ולפי המניפסט של צוקרברג, זו בדיוק הכוונה.