Rafay Systems: כך הופכים GPUs לענן רווחי

תשתית ה-AI עוברת שלב חדש. אחרי שהשקעות ענק זרמו לרכישת GPUs והקמת קיבולת, עכשיו השאלה היא איך הופכים את החומרה היקרה הזו לענן מאובטח, אמין ומכניס. זה בדיוק התחום שבו Rafay Systems ממקמת את עצמה.

החברה, שנוסדה על ידי Haseeb Budhani, מספקת את שכבת התוכנה שבין החומרה לחוויית הלקוח. הרעיון פשוט: ספקי ענן, neoclouds, ספקי ענן sovereign וחברות תקשורת קונים GPUs בקנה מידה עצום, אבל רכישת חומרה לא הופכת אותם לענן. צריך orchestration, אבטחה, multitenancy, ניטור וכל היכולות שספקי הענן הגדולים בנו במשך יותר מעשור – אבל בזמן קצר בהרבה.

״ההגדרה שלי לענן היא: אתה נכנס לפורטל, לוחץ על כפתור ומקבל שירות AI ב-multitenant fashion, בלי לדבר עם אף אחד״, אומר Budhani. ״אם אתה יכול לעשות את זה – אתה ענן. אם לא – אתה תשתית מותאמת אישית.״

ההבחנה הזו קריטית. בעוד שחברות כמו AWS, Microsoft ו-Google בנו את ה-control planes שלהן במשך שנים עם אלפי מהנדסים, ענני ה-AI החדשים צריכים את היכולות האלה תוך חודשים. הם לא יכולים לבנות הכול מאפס.

למה עכשיו?

הביקוש לתשתית AI הולך וגדל, אבל האופי שלו משתנה. מעבר מ-chat פשוט ל-agentic workloads משנה את המשוואה: כל פעולה של סוכן דורשת עיבוד מחדש של כל ההקשר הקודם, מה שמקפיץ את כמות ה-tokens באופן אקספוננציאלי. ״אפליקציות agentic צורכות פי כמה וכמה יותר tokens מאשר chat, כי זה inherently multi-turn״, מסביר Max Kan מ-SemiAnalysis. כל שאלת המשך או שימוש בכלי כמו חיפוש או גישה ל-codebase מאלצת לעבד מחדש את כל השיחה – מה שמעלה את העומס על התשתית.

השוק מתפצל גם לעומסי עבודה שונים: prefill דורש כוח חישוב, decode דורש זיכרון ו-bandwidth. Positron AI, למשל, מתמקדת באופטימיזציה של tokens per dollar ו-tokens per watt, כולל פתרונות air-cooled למרכזי נתונים שאינם תומכים בקירור נוזלי. ״אנחנו מאמינים ש-inference הוא fundamentally בעיה כלכלית״, אומר Darren Chien מ-Positron. ״צריך לוודא שה-tokens האלה נוצרים כמה שיותר בזול וכמה שיותר נגישים למשתמשים.״

במקביל, ה-AI עובר מהענן אל הקצה: רובוטים, רכבים אוטונומיים ומכשירים חכמים צריכים מודלים קומפקטיים שרצים מקומית, עם מגבלות של כוח, זיכרון וקישוריות. Liquid AI מפתחת מודלי בסיס הניתנים להתאמה אישית למכשירים, מה שמפחית עלויות, משפר פרטיות ומקצר זמני תגובה. ״מודל קטן לא יהיה intelligence כללי״, אומר Ramin Hasani מ-Liquid AI. ״אבל התאמה אישית שלו עולה מעט מאוד.״

הפתרון של Rafay: פרוסת GPU חסויה

Rafay מתמקדת בשכבת ההפעלה שמעל החומרה. החברה אומרת שהיא פתרה כבר מזמן את ה-serverless ברמת התשתית. עכשיו היא מוסיפה layer חדש: confidential GPU. ״עכשיו יש לנו פרוסת GPU חסויה״, מסביר Budhani. ״אני יכול לקבל אבטחה טובה יותר על ה-GPUs שכבר יש לי, מה שאומר שכספק, אני יכול להפיק הכנסות מכל שנייה של התשתית. אבל עבור הארגון, זו עסקה טובה יותר. הוא מסתכל על עלות הבעלות הכוללת, על ה-capex, ואין לו תקציבי ענק. אחרת זה יקר מדי. זה מאפשר לו פתרון מאובטח במחיר נמוך יותר.״

המודל הזה פותר שתי בעיות במקביל. מצד אחד, ספקי תשתית יכולים להציע מודלים פתוחים מבלי להקדיש מערכי GPU שלמים ללקוחות בודדים – מה שמייעל את הניצול ומגדיל את ההכנסות. מצד שני, ארגונים מקבלים גישה לכוח חישוב מאובטח במחיר נמוך יותר מהחלופות, בלי צורך בהשקעת ענק.

הפלטפורמה של Rafay תומכת במגוון רחב של מודלים: bare metal, Kubernetes, VMs, serverless, מודלים פתוחים והיצע של tokens – הכול דרך פלטפורמה אחת. ״ענן ה-AI הנכון כיום עושה את כל הדברים האלה״, אומר Budhani. ״זה לא רק bare metal או רק Kubernetes או רק VM או tokens – זה הכול.״

הגישה הזו מאפשרת לספק לתת מענה לפלחי לקוחות שונים: מפתח מודלים גדול רוצה Kubernetes, אחר רוצה bare metal, מפתח ארגוני מצפה לחוויית serverless, ולפעמים לקוח פשוט רוצה לרכוש tokens. ככל שהספק עולה במחסנית, כך גם הרווחיות משתפרת – שירותים מנוהלים וצריכת tokens מניבים מרווחים גבוהים יותר מ-bare metal.

זמן להגיע להכנסות

הלחץ הגדול על ספקי ה-AI הוא time to revenue. תשתית AI יקרה, נשחקת מהר, וחייבת להתחיל להניב תשואה בהקדם. ״בסופו של יום, הדבר החשוב ביותר הוא faster time to market וחוויית משתמש טובה יותר״, אומר Budhani. ״אם אתה יכול לספק את שניהם – כולם מרוויחים.״

Rafay שמה דגש על יכולות deployment מהירות. החברה נכנסת לתמונה כבר בשלב רכישת התשתית, ועוזרת ללקוחות להבין את קהל היעד, להכין את סביבת העבודה ולחבר את המערכות לפני שהחומרה מגיעה. בדוגמה אחת, לקוח רצה להדגים שירות חי ולהתחיל לגייס משתמשים תוך 10 ימים. Rafay הרכיבה צוות הנדסה וסייעה לו לעמוד ביעד.

״השריר של ה-delivery הוא ההשקעה הכי חשובה שעשינו בחברה״, מסביר Budhani. ״התוכנה היא קרש הקפיצה, אבל היכולת לפרוס מהר היא מה שמבדיל אותנו.״

הריבונות וההזדמנות

מגמה נוספת שמחזקת את הצורך בשכבת ניהול כזו היא עליית ה-sovereign AI. מדינות ואזורים שלמים רוצים תשתית מקומית שמשאירה את הנתונים ואת כוח החישוב קרוב לבית. ״המניע הגדול הוא sovereignty של compute ושל data״, אומר Budhani.

הגל הראשון הגיע ממפתחי מודלים מקומיים ומפתחי agentic applications. עכשיו גם ארגונים גדולים מצטרפים. הם מביאים איתם את הציפיות שפיתחו במשך שנים מול ענני ההיפר-סקייל: מכסות, מדיניות, ביקורת, attestation ובקרות אבטחה. הם גם רוצים חוויית צריכה פשוטה. הספק האזורי שיכול לספק את היכולות האלה – יכול להפוך ל-AI utility משמעותי בשוק שלו.

מה זה אומר לתעשייה?

השינוי הזה נוגע לכל מי שעובד בתשתיות. ספקי ענן חדשים לא צריכים לבנות הכול מאפס – הם יכולים לרכוש שכבות ניהול כמו ש-Rafay מציעה, ולהתמקד בהבאת לקוחות. עבור ארגונים, זה אומר שיש יותר אפשרויות, כולל ספקים אזוריים שעומדים בסטנדרטים של העננים הגדולים.

ההשלכות הכלכליות משמעותיות: אם בעבר רק ההיפר-סקיילרים יכלו להריץ שירותי AI במחיר סביר, עכשיו שחקנים קטנים יותר יכולים להיכנס לשוק. התחרות גדלה, ובשורה התחתונה – המחיר ללקוח יורד.

אבל יש גם אתגר: היכולת לנהל את המורכבות. ככל שמספר הספקים גדל, כך עולה הצורך בכלים שיבטיחו אבטחה, תאימות וביצועים. Rafay ממצבת את עצמה בדיוק בנקודה הזו – שכבות ביניים שהופכות חומרה יקרה לשירות זמין.

אז בפעם הבאה שתשתמשו במודל AI דרך ספק קטן, אולי תודו גם לשכבת הניהול שלא רואים. היא זו שגורמת ל-GPU לעבוד בשבילכם – וגם בשביל מי שמפעיל אותו.