ידיעות בינה מלאכותית בנושא GROQ
Nvidia הכריזה על פלטפורמת Vera Rubin NVL72, שמבטיחה עד פי 30 יותר עבודה לכל ואט במשימות AI סוכניות, בעלות נמוכה פי 35 לטוקן. SpaceXAI תהיה בין הראשונות לפרוס את מעבדי Vera בקנה מידה גדול, כולל תוכניות ללוויינים — מה שמצביע על הרחבת השימוש במחשוב AI סוכני גם לחלל.
תשתיות ה-Inference ב-AI עוברות מהפכה: מעבר מהתמקדות ב-GPU לניהול אתגרים כמו צריכת חשמל ורוחב פס ברשת. שיפורים בטכנולוגיית NAND מפחיתים את צריכת החשמל ב-76%, ופתרון אחסון חדשני מאפשר תגובות מהירות יותר בעומסי רשת גבוהים.
Groq מגייסת 350 מיליון דולר בהובלת Disruptive, כש-Nvidia צפויה להצטרף, כדי להרחיב את שירותי ענן ה-AI שלה. השווי ירד מ-6.9 מיליארד דולר ל-3.5 מיליארד, והחברה מתכננת להגדיל את קיבולת הענן ל-200 מגה-ואט עד 2027.
AMD רכשה את Taalas, סטארטאפ קנדי שפיתח שבבים שמקבעים מודלי AI בסיליקון כדי להאיץ inference. העסקה תחזק את AMD מול Nvidia עם ביצועים של אלפי tokens לשנייה, אך השימוש בשבבים דורש תכנון מחדש עבור מודלים חדשים. Taalas גייסה 219 מיליון דולר מאז 2023, והשבב הראשון שלה מריץ את Llama 3.1.
וול סטריט עוברת רוטציה מסיבית: הכסף זורם ממניות שבבים לתוכנה, Nvidia ירדה 4% ביום פרסום עסקת הערבויות ל-OpenAI, ואנליסטים עדיין ממליצים לקנות את Nvidia (מכפיל 16) ו-Palantir — אבל הריכוזיות במדד מזכירה את בועת 2000.
:max_bytes(150000):strip_icc()/ai2-dowell-15d794047bda4953870ded2a6b241ea1.jpg)
Ollama, כלי פיתוח AI פופולארי, גייסה 65 מיליון דולר בסיבוב B בהובלת Theory Ventures, ובסך הכול 88 מיליון דולר. עם 8.9 מיליון מפתחים חודשיים ונוכחות ב-85% מ-Fortune 500, החברה מובילה את המעבר למודלים פתוחים – ומראה איך open source יכול להפוך לעסק מצליח.
NVIDIA השקיעה 20 מיליארד דולר ב-Groq וקיבלה רישיון לטכנולוגיית שבבי היסק ייעודיים, במטרה לחזק את שליטתה בשוק ה-AI. מהלך זה חושף אסטרטגיה לאמץ ארכיטקטורות חומרה מגוונות מעבר ל-GPU, תוך התמקדות בכלכלת ההיסק – שלב הפעלת המודלים שמהווה כיום 40% מההכנסות ועתיד לצמוח בקצב אקספוננציאלי.
אנבידיה משקיעה 20 מיליארד דולר ב-Groq תמורת רישיון לטכנולוגיית ההסקה המתקדמת שלה וצירוף צוות הפיתוח הבכיר. המהלך מחזק את מעמדה של אנבידיה בשוק שבבי הבינה המלאכותית אך מעלה חששות רגולטוריים. Groq תמשיך לפעול כחברה עצמאית עם מנכ"ל חדש.
Groq, יוניקורן AI בתחום החומרה, מכריז על תוכנית אסטרטגית להרחבת מרכזי נתונים חדשים. המהלך נועד לענות על הביקוש הגובר לכוח מחשוב ייעודי לעבודות בינה מלאכותית, עם דגש על חומרה לאניפארנס מהיר ומודלים גנרטיביים.
שבוע שיא למימון הייטק בארה"ב עם 10 סבבי גיוס מעל 90 מיליון דולר. הובילו את הטבלה: פיגר (1 מיליארד$ לרובוטים אנושואידים), גרוק (750 מיליון$ ל-AI) ודיוורג'נט (290 מיליון$ לייצור דיגיטלי). עלייה חדה בהשקעות בבינה מלאכותית, ביוטק וחידושים סביבתיים בעלי פוטנציאל גלובלי.
