המפנה בתעשיית הבינה המלאכותית: גוגל, אורקל ומטא מסמנות את העתיד עם מודלים קטנים וענן במיליארדים

מהפכת המודלים הזעירים: בינה מלאכותית יעילה מבית מטא

חברת מטא (לשעבר פייסבוק) הציגה משפחת מודלים חדשה בשם MobileLLM-R1 בגדלים של 140M, 360M ו-950M פרמטרים, המתמחה בביצוע משימות לוגיות כמו קוד, מתמטיקה והיסק מדעי. המודלים, הפועלים במכשירים מקומיים (on-device), מציגים ביצועים מרשימים יותר ממודלים דומים של אליבאבא במדדי MATH ו-LiveCodeBench, בזכות ארכיטקטורת "עמוק-ודק" (Deep-and-Thin) וטכניקות כמו Grouped-Query Attention.

חשוב לציין כי המודל זמין כעת ברישיון FAIR Non-Commercial שאינו מאפשר שימוש מסחרי, מה שמגביל את היישומים העסקיים שלו. מנגד, גוגל משיקה את Gemma 3 270M - מודל חסכוני בצריכת סוללה (פחות מ-1% לטובת 25 שיחות) ברישיון פתוח, ואילו NVIDIA מציעה את Nemotron-Nano עם יכולות "הקצאת תקציב חשיבה".

מהפכת הענן: אורקל ומטא בשיחות על עסקה בת 20 מיליארד דולר

במקביל, על פי מקורות ב-Bloomberg ו-Reuters, מטא מנהלת משא ומתן עם אורקל על עסקת ענן בשווי כ-20 מיליארד דולר, כחלק מהמירוץ להבטיח תשתיות מחשוב לעידן ה-AI. העסקה המתוכננת תספק למטא כוח מחשוב לאימון ופריסה של מודלי AI, כתוספת לספקיות הענן הקיימות שלה.

העסקה מגיעה שבוע לאחר חוזה שיא בין OpenAI לאורקל בשווי 300 מיליארד דולר, ומצטרפת לארבעה חוזים נוספים באורקל שבסה"כ צפויים להגיע ל-חצי טריליון דולר בהזמנות עתידיות.

מעורבות ממשלתית וסוגיות רגולטוריות

בינתיים, מינהל השירותים הכללי האמריקאי (GSA) אישר את מערכת הבינה המלאכותית Llama של מטא לשימוש סוכנויות פדרליות, לאחר שעמדה בדרישות אבטחה חמורות. המערכת תאפשר לממשלה לייעל משימות כמו סקירת חוזים ופתרון תקלות IT.

עם זאת, מטא נתקלת בביקורת על הקמת מרכז נתונים בלואיזיאנה, שם קיבלה הטבות מס - תוך הקטנת התחייבויות ליצירת משרות מ-500 ל-300 בלבד.

תהליכי תעשייה: ממערכות ענק לציי מומחים

ענקיות הטכנולוגיה מעבירות את המוקד ממודלי ענק (LLMs) ל"ציי מומחים" (Fleet of Specialists) - מערכים של מודלים קטנים וממוקדי משימה. מהלך זה משול למעבר מאפליקציות מונוליתיות למיקרו-שירותים, ומציע יתרונות:

• שליטה רבה יותר בעלויות
• פרטיות נתונים משופרת (עיבוד מקומי ללא צורך בענן)
• אמינות תפעולית ללא תלות בחיבור אינטרנט

לטענת רמין חסאני, מנכ"ל Liquid AI, המודלים הזעירים עשויים ליצור הזדמנות בשווי טריליון דולר עד 2035. המודלים הגדולים לא ייעלמו, אך ימוקמו מחדש כ"כורי רעיונות" לייצור נתוני אימון למודלים הקטנים יותר.