Google רוצה שתעבירו את ה-AI לשבבים שלה בלי לכתוב מחדש
Google שחררה את TorchTPU כפרויקט קוד פתוח — גרסת PyTorch שמאפשרת להעביר אפליקציות AI ל-TPU ול-Google Cloud בלי לכתוב מחדש. ההשקה מגיעה יום אחרי מהלך דומה של Amazon עם TorchNeuron ל-Trainium. ההערכה היא ש-85% מאפליקציות ה-AI נכתבות ב-PyTorch, ולכן זה אחד ממנגנוני ה-lock-in החזקים ביותר שיש ל-Nvidia.
Google הודיעה השבוע שהגרסה שלה ל-PyTorch, TorchTPU, זמינה סוף סוף כפרויקט קוד פתוח. מאחורי ההודעה היבשה מסתתרת הבטחה טכנית מאוד ספציפית — והיא בדיוק מה שהופך את העניין לחשוב: לאפשר לאפליקציות AI לרוץ על ה-TPU, השבבים של Google עצמה, בלי לכתוב את האפליקציה מחדש. רק שינוי קונפיגורציה, לטענת Google. לא porting, לא צוות שיעביר חודשיים של עבודה.
אז למה זה בכלל מסובך?
PyTorch הוא ה-toolkit הפתוח שמפתחים וסטארטאפים משתמשים בו כדי לבנות, לאמן ולהריץ מודל AI. לפי חלק מההערכות, הוא עומד מאחורי 85% מאפליקציות ה-AI — כמעט כל מה שאתם נתקלים בו בשטח. זה גם מסביר לבד למה כל מי שמוכר מחשוב AI מתחיל את המשחק שם.
PyTorch נולד ב-Meta (אז Facebook) ב-2016, הרבה לפני שמישהו חשב ש-LLMs יהפכו לתעשייה. באותו שלב ה-GPU של Nvidia כבר היה ברירת המחדל למחקר, אז הרבה מהפיצ'רים תוכננו לעבוד טוב ספציפית איתו. ב-2022 Meta העבירה את הפרויקט ל-Linux Foundation, אבל ההתאמה ל-Nvidia נשארה דבוקה בפנים. זה ה-lock-in האמיתי — הרבה יותר חזק מהחוזה עם ספק ענן כזה או אחר.
Amazon הקדימה ביום אחד
יום לפני Google, Amazon שחררה את TorchNeuron, גרסה משלה ל-PyTorch שמעבירה אפליקציות ל-Trainium, השבב הביתי שלה, ול-AWS — גם היא בלי לכתוב מחדש. Amazon הלכה צעד נוסף: היא תרמה קוד לפרויקט PyTorch המרכזי שמנתק פיצ'רים מה-GPU של Nvidia, כך שיתאימו כברירת מחדל לכל סוג חומרה. Google לא הלכה לשם.
איפה Google בכל זאת מקדימה
לפי Google, היא עבדה ישירות עם Meta, עם Hugging Face ועם החברות שמאחורי כלי ה-inference החמים בתחום — Inferact (vLLM) ו-RadixArk (SGLang) — כדי לוודא שהפיצ'רים והספריות של TorchTPU מתאימים ל-tools שאתם כבר עובדים איתם.
בנוסף השיקה Google כלי ייעודי בשם TPU agent suite, שאמור ללוות את המיגרציה ל-Google Cloud ולתקן שגיאות במהלך הדרך. היא גם עדכנה את LiteRT, הכלי שלה להרצת AI מקומית על טלפונים, לפטופים ומכשירי embedded, כך שיהיה תואם לאפליקציות שמבוססות על PyTorch.
מה זה אומר בפועל
אף אחד לא מחליף מחר GPU ב-TPU כי שורה בהגדרות השתנתה. הרגלים, ספריות ותהליכי עבודה לא מתהפכים בשורה אחת של קונפיגורציה — וההערכה היא שמיליוני המפתחים ימשיכו לכתוב ל-Nvidia גם אחרי ההשקה הזו. אבל שני ענקי ענן, בהפרש של יום, סימנו את אותו כיוון: לפרק את היתרון של Nvidia דווקא דרך השכבה שכולם כבר משתמשים בה. זה לא ניצחון מהיר, זו אסטרטגיה לשחיקה ארוכה.
ובינתיים, אצל Nvidia לא נרשמה הודעה מיוחדת — שם כבר רגילים להיות ברירת המחדל.