Apple מחפשת לקנות AI שירוץ על האייפון
Apple מנהלת משא ומתן עם PrismML, סטארטאפ מ-Caltech שמסוגל לדחוס מודלי AI גדולים פי עשרה כדי שירוצו ישירות על האייפון. במקביל, החברה מחפשת לרכוש חברות שבבי AI לשרתים, אחרי שנתקלה בבעיות ביצועים עם שבבי M2 Ultra. בקופה: 45.6 מיליארד דולר.
אפל, כידוע, לא רגילה לפתוח את הארנק ברצינות — הרכישה הגדולה ביותר שלה אי פעם הייתה Beats תמורת 3 מיליארד דולר, וזה היה לפני למעלה מעשור. אבל עכשיו, כשה-AI הפך לזירת הקרב המרכזית בתעשיית המובייל, משהו במדיניות הזו מתחיל להיסדק.
מה הסיפור?
Apple מנהלת שיחות עם סטארטאפ בשם PrismML, חברה קטנה בעמק הסיליקון שפיתחה טכנולוגיה שמאפשרת להקטין מודלי AI גדולים פי עשרה ויותר — כדי שירוצו ישירות על האייפון, בלי שרתי ענן. PrismML, ספין-אוף מ-Caltech ומגובה על ידי קרן Khosla Ventures, שחררה השבוע גרסאות דחוסות של מודל Qwen של Alibaba. המודל המקורי שוקל כ-54 גיגהבייט; הגרסה של PrismML שוקלת פחות מ-4 גיגהבייט — ועדיין מריצה את כל 27 מיליארד הפרמטרים שלו על אייפון 15 ומעלה.
מנכ"ל PrismML, Babak Hassibi, אמר ל-CNBC שאפל ועוד חברות "ממש מעריכות את הטכנולוגיה שלנו כרגע". הוא תיאר את השיחות כמוקדמות מאוד, אבל הוסיף ש"דברים מתקדמים יפה". אפל לא הגיבה.
איך זה עובד?
בפשטות: PrismML מקטינה את כמות הזיכרון הדרושה לאחסון המידע הפנימי של המודל. במקום לשמור כל ערך ב-16 ביטים, הם מצמצמים אותו לערך אחד או לשלושה ערכים אפשריים. התוצאה: שימוש בזיכרון נמוך פי 10-15, מהירות תגובה מהירה פי 6-8, וצריכת אנרגיה נמוכה פי 3-6. יש פשרה — ביצועי המודל נפגעים בכמה אחוזים, במיוחד בזיכרון עובדות, אבל כישורי חשיבה, מתמטיקה וקוד נשמרים טוב יותר.
Hassibi השווה את זה למהפך בתעשיית השבבים מ-8 ביט ל-4 ביט — אבל צעד אחד קדימה.
למה זה חשוב לאפל?
הנה האסטרטגיה המלאה: אפל מנסה לשדרג את Siri שתוכל להתחרות ב-assistants של OpenAI ו-Anthropic, אבל בלי לוותר על עקרון הפרטיות — כמה שיותר עיבוד על המכשיר עצמו. מודלים גדולים דורשים יותר מדי זיכרון וכוח עיבוד כדי לרוץ על סמארטפון, אז אפל שולחת בקשות מורכבות לענן. אבל אם אפשר להריץ מודל חזק יותר על האייפון עצמו — הלוקיישן נמוך יותר, העלויות קטנות, ופרטיות המשתמשים נשמרת טוב יותר.
Carolina Milanesi, נשיאת Creative Strategies, הסבירה שככל שאפשר לעשות יותר על המכשיר — במיוחד עם נתוני בריאות ותרופות רגישים — ככה יותר טוב.
ומצד שני: צ'יפים לשרתים
אבל הפריזמה לא מסתכמת רק באייפון. במקביל, לפי דיווחים, אפל מחפשת לרכוש חברות שבבים בתחום ה-AI כדי לשפר את השרתים שלה. לפי The Information, החברה נתקלה בבעיות ביצועים עם שבבי M2 Ultra בשרתים שלה. שבב שרתים חדש מבוסס M7 Ultra לא יהיה מוכן עד 2029. אפל תכננה להוציא שבב שרתים חדש בקוד "Baltra" השנה, אבל לוח הזמנים החליק.
כזכור, אפל כבר קנתה את PA Semi תמורת 278 מיליון דולר ב-2008 כדי להיכנס לתחום עיצוב השבבים, והשנה רכשה את סטארטאפ ה-AI Q.ai תמורת כמעט 2 מיליארד דולר — הרכישה השנייה בגודלה אי פעם. יש לה גמישות פיננסית: נכון לסוף מרץ, היו בקופה 45.6 מיליארד דולר במזומן.
יש מי שיצביע על בעיה
Analysts מציינים שטענות PrismML עדיין צריכות הוכחה מחוץ למעבדה. Tarun Pathak מ-Counterpoint Research אמר שהמבחן האמיתי יהיה מיליוני בקשות, אלפי שילובי מכשירים, ובדיקה מאסיבית. שאלת הסוללה לא פתורה — מודל שרץ כל הזמן ברקע למשימות agent-like עדיין יכול לרוקן סוללה.
ויש גם שאלה גדולה יותר: יעילות AI משופרת לאו דווקא מפחיתה ביקוש לזיכרון ושבבים. Gil Luria מ-D.A. Davidson ציין שהשבבים פשוט יעברו משרתים למכשירים אישיים. "עדיין תצטרכו GPU", הוא אמר.
ומה בצד המקומי?
נכון לרגע זה אין קשר ישראלי לסיפור PrismML, אבל ההשלכות על תעשיית השבבים וה-AI הישראלית ברורות: אם טכנולוגיית דחיסת מודלים תתפוס, חברות שבבים כמו אלו שמייצרות זיכרון לשרתים יצטרכו לחשוב מחדש על השרשרת. מצד שני, יעילות גבוהה יותר יכולה להוביל לשימוש רב יותר — ולאו דווקא לירידה בביקוש.
אז מה בעצם קרה כאן?
אפל, חברה שמעדיפה לקנות בוטיק מאשר מפלצות, מתחילה לבצע רכישות משמעותיות בתחום ה-AI — גם בצד התוכנה (מודלים שירוצו על האייפון) וגם בצד החומרה (שבבים לשרתים). המשמעות: היא מפסידה במרוץ ה-AI ומתחילה לשלם כדי לסגור את הפער.