Perplexity משיקה סוכן AI מקומי: פחות ענן, פחות עלויות
Perplexity ו-Nvidia משיקות את Portable Computer — סוכן AI שרץ מקומית על המחשב שלכם במקום בענן. המוצר דורש חומרה חזקה של Nvidia (DGX Spark או RTX GPU עם 24GB+ VRAM), זמין כרגע רק למנויים בתשלום וב-Linux, ויחסוך לכם קרדיטים בהרצה מקומית.
ה-AI חוזר למחשב שלכם
Perplexity ו-Nvidia הכריזו היום (ג') על Portable Computer — גרסה מקומית לסוכן ה-AI של Perplexity, שרצה ישירות על החומרה שלכם במקום בענן. זה לא עוד מוצר נישה לחובבי מודלים מכווצים; זו הצהרה שסוכני AI יכולים לעבוד באופן מלא על המחשב המקומי, עם ביצועים טובים יותר, אבטחה חזקה יותר — ובלי עלויות הרצה מקומית.
ההשקה מגיעה על רקע דיווחים שלפיהם Nvidia שוקלת השקעה ב-Perplexity לפי שווי של למעלה מ-30 מיליארד דולר, ואף העלתה את האפשרות לרישיון על הטכנולוגיה של הסטארטאפ. שיתוף הפעולה הזה הוא לא רק טכני — הוא אסטרטגי.
מה זה Portable Computer בעצם?
Portable Computer הוא הגרסה המקומית של Perplexity Computer, פלטפורמת הסוכנים של החברה שהושקה בפברואר האחרון. הפלטפורמה המקורית מאפשרת לסוכן AI לבצע משימות מרובות שלבים — סקירת מסמכים, ניתוח נתונים, הפקת דוחות ואפילו פיתוח אפליקציות ווב — עם מינימום התערבות אנושית.
הגרסה החדשה עושה את אותו הדבר, אבל הכול רץ על המכונה שלכם. המודל, הקבצים שלכם והעבודה עצמה — כולם נשארים מקומית. המערכת מבקשת רשות לפני שהיא שולחת שלב מסוים למודל חזק יותר בענן, ורק אז נצברות עלויות.
"העברנו את ממשק המשתמש המדויק לאפליקציה מקומית לחלוטין", אמר Nate, סגן נשיא להנדסת תשתית ותאגיד ב-Perplexity, בתדרוך לעיתונאים. "זה כולל את כל מערכת הסוכן, ההיסק וכל מה שצריך כדי לעבוד מקומית."
למה לעבוד מקומית? שלוש סיבות מרכזיות
ביצועים. מודלים מקומיים יכולים להגיב מהר יותר ממקביליהם בענן, כי אין זמן השהיה של התקשורת לשרתים מרוחקים.
אבטחה. המשימות רצות בסביבה מבודדת (sandbox) על המכונה שלכם. הנתונים הרגישים לא עוזבים את המכשיר בלי רשות מפורשת. זה משמעותי במיוחד כשמדובר במסמכים פיננסיים, חוזים משפטיים או קוד מקור רגיש.
עלות. הרצה מקומית לא צורכת קרדיטים או טוקנים. אם חלק מהמשימה צריך ענן — רק החלק הזה נספר בחשבון.
"Portable Computer הוא סוכן local-first", נכתב בבלוג של Perplexity. "נתונים רגישים לעולם לא עוזבים את המכשיר בלי רשות, ומודלים מקומיים לא כרוכים בעלויות היסק: המערכת פרטית וחסכונית מעצם הבנייה שלה."
שיתוף הפעולה עם Nvidia
המוצר פותח בשיתוף פעולה הדוק עם Nvidia, והוא רץ על ה-DGX Spark — מחשב שולחני מבית Nvidia עם כרטיס מסך המבוסס על ארכיטקטורת Blackwell, מעבד בעל 20 ליבות ו-128 גיגה-בייט זיכרון. בגרסת הלינוקס אפשר גם להריץ אותו על כל מכונה עם Nvidia RTX GPU.
עבור Nvidia, זו הצהרה מעניינת. החברה שבשנתיים האחרונות מוכרת לעולם שבבים למרכזי נתונים בשווי טריליוני דולרים — מראה שהיא מאמינה שה-AI המקומי עבר נקודת מפנה.
"ה-AI המקומי הגיע לנקודת מפנה", אמר Nader, מנהל טכנולוגיות מפתחים ב-Nvidia. "הרבה זמן זה היה תחביב של חובבנים, עם מודלים מכווצים וקטנים מאוד... וזה מגניב, אבל לא ממש מעשי. הכול השתנה עם מודלים חדשים בקוד פתוח שבאמת שימושיים."
דרישות חומרה — לא לכולם
פה מגיע החלק שצריך לשים לב אליו. Portable Computer דורש חומרה רצינית:
- לינוקס: Nvidia DGX Spark או מכונה עם Nvidia RTX GPU, עם Nvidia DGX OS או Ubuntu על מערכת ARM או x64.
- וינדוס (בקרוב, בספטמבר): Nvidia RTX GPU עם לפחות 24GB VRAM.
במילים אחרות — לא תוכלו להריץ את זה על לפטופ ממוצע. מי שיש לו תחנת עבודה עם כרטיס מסך חזק של Nvidia, מסודר. השאר יצטרכו להשקיע.
מודלים ויכולות
ביום ההשקה, Portable Computer מריץ את Qwen 3.8 27B — מודל בקוד פתוח מבית Alibaba — או את PPLX 27B, גרסה מותאמת ש-Perplexity אימנה במיוחד ל-DGX Spark. החברה הוסיפה מנגנון multi-token prediction שמאיץ את עיבוד הפרומפטים.
ל-Qwen 3.8 27B יש חלון קונטקסט של 256,000 טוקנים, אבל בפועל Perplexity גילתה שהמודל מתקשה עם יותר מ-100,000 טוקנים. כדי להתמודד עם זה, היא הוסיפה תכונת context compaction שמסכמת פרומפטים ארוכים ומורידה אותם מתחת לסף.
בקרוב יתווסף מודל 30B נוסף למאגר, וגם תמיכה ב-Nemotron 3.5 Lightning של Nvidia — מודל mixture-of-experts עם 30 מיליארד פרמטרים.
למי זה מיועד?
Portable Computer זמין כרגע רק למנויים בתשלום — Pro, Max, Enterprise Pro ו-Enterprise Max. משתמשים במסלול החינמי? לא הפעם.
המערכת כוללת כישורים מובנים (skills) — אוספי קבצים עם הוראות ונכסים שמשפרים את איכות התשובות. ביום ההשקה, הכישורים מתמקדים במחקר מקוון, מדע נתונים וקוד.
Portable Computer יכול גם להתחבר לשירותים חיצוניים כמו Google Drive, Gmail, Slack ו-GitHub — אבל רק עם רשות המשתמש, וללא גישה לקבצים המקומיים.
מה זה אומר על השוק?
ההשקה הזו מסמנת מגמה ברורה: ה-AI המקומי מפסיק להיות תחביב של חובבנים והופך לכלי עבודה. אם עד עכשיו הבחירה הייתה בין ענן יקר לבין מודלים מקומיים קטנים ולא מעשיים — Portable Computer מציע פשרה מעניינת: סוכן מלא, עם מודלים חזקים, שרץ על החומרה שלכם.
עבור מפתחים ועובדי הייטק ישראלים, זה אומר דבר אחד פשוט: אם יש לכם תחנת עבודה עם כרטיס מסך חזק של Nvidia, אתם יכולים להריץ סוכן AI מתקדם בלי לשרוף קרדיטים. ואם אין לכם — זו אולי סיבה טובה לשדרג.
בסוף, Nvidia מוכרת את החומרה, Perplexity מוכרת את התוכנה, ואתם מקבלים סוכן AI שלא שולח את הקוד שלכם לענן. כולם מרוצים — חוץ, אולי, ממי שמרוויח ממכירת טוקנים.