JioStar מביאה עוזר AI ל-500 מיליון משתמשים

500 מיליון משתמשים, ומערכת AI שמדברת ב-15 שפות — תוך שמונה שבועות

בואו נדמיין שאתם מגיעים לפלטפורמת סטרימינג עם 500 מיליון מנויים, ורוצים לגלות סרט, סדרה או רגע קריקט היסטורי. עד לאחרונה, זה היה בעיקר עניין של חיפוש מילות מפתח או המלצות אוטומטיות. JioStar, שמפעילה את שירותי הבידור והספורט של JioHotstar בהודו, החליטה לשדרג את החוויה עם עוזר AI שיחתי, קולי וויזואלי — ועשתה את זה בקצב מסחרר.

מה קרה כאן בעצם?

לפני כשמונה שבועות, צוות קטן של מהנדסי data ומדעני נתונים התחיל לפתח עוזר AI שיחתי ל-JioHotstar, תוך שימוש ב-API של OpenAI. המטרה: לאפשר לגולשים לדבר בשפה טבעית כדי למצוא תוכן — בין אם מדובר בסרט לערב שישי, ברגע שיא במשחק קריקט live או בסטטיסטיקות מפורטות על כל כדור במשחק. המערכת תומכת ביותר מ-15 שפות, ומשיבה בממשק קולי-ויזואלי.

הסיפור מתחיל בתזמון: JioStar רצתה להשיק את השירות מתישהו לפני טורניר קריקט גדול בפברואר, ועבדה עליו מאוקטובר–נובמבר. התוצאה? מערכת שמספקת תגובות רלוונטיות, מהירות וחסכוניות בקנה מידה של 500 מיליון משתמשים — עם תמיכה של עד 72.5 מיליון צופים בו-זמנית בשידורי ספורט live.

איך בונים AI כזה בזמן קצר?

הארכיטקט הראשי של JioStar, Vijay Seshadri, הסביר שהאתגר המרכזי היה לאזן בין שלושה גורמים: דיוק, השהיה ומחיר. "כל החלטת הנדסה הייתה צריכה לשקול את שלושתם בו-זמנית," הוא אמר בפסגה של OpenAI בסינגפור. יותר מ-60% מהמשתמשים מעדיפים ממשק קולי על פני טקסט, מה שמגביר את הלחץ לתגובות מהירות.

הצוות התחיל עם הגדרת scope ברורה: תחילה, הם קבעו מה המערכת לא צריכה לענות. "Guardrails באו לפני הכול," הסביר Seshadri. הם השתמשו בדאטהסט seed והרחיבו אותו באמצעות מודלים, בתבנית שבה מודל אחד מציע תשובה ומודל אחר מאמת — מה שנקרא maker-checker. אבל מי בודק את הבודק? Seshadri ציין שהערכת המאמת עצמו הייתה אתגר נוסף, ושהצוות השתמש ב-Codex כדי לייצר מקרי eval. עם זאת, המהירות שבה נבנתה המערכת לא ביטלה את הצורך בשיפוט אנושי.

מה למדו בדרך?

Seshadri הזכיר כמה לקחים חשובים להטמעת AI בפרודקשן:

• הערכת מומחים חיונית: עבור סטטיסטיקות קריקט, הם עבדו עם עורכים ממגזיני ספורט כדי להבין מה אוהדים רציניים עשויים לשאול. "אי אפשר להתחיל עם prompt לבד; צריך לזרוע את המערכת עם מומחיות אנושית עמוקה," הוא אמר.

• ניטור ייצור קריטי: אם היינו עושים את זה מחדש, היינו משקיעים מוקדם יותר בניטור ביצועי המודל בפרודקשן. מדדי תשתיות מסורתיים כמו P99 latency חשובים, אבל לא מספיקים — צריך גם לעקוב אחר ביצועי המודל עצמו.

• פער בין טכנולוגיה למציאות: מנהלים צריכים לזכור שקיים פער גדול בין מה שהטכנולוגיה מסוגלת לעשות לבין המציאות בתוך ארגון. "אם החברה שלכם לא תואמת כל הכרזה על מודל frontier, אתם לא לבד," אמר Seshadri.

מה זה אומר לנו?

לאנשי tech, הסיפור הזה מדגים כמה דברים:

1. מהירות הפיתוח: בניית מערכת AI לפרודקשן בקנה מידה כזה בשמונה שבועות מראה איך שיתופי פעולה עם חברות כמו OpenAI יכולים להאיץ פיתוח — אבל גם דורשת צוות ממוקד ושיקול דעת טכני.

2. חשיבות ה-evals: בעולם ה-AI, הערכת מודלים בפרודקשן היא לא רק עבודה טכנית — היא דורשת תובנות אנושיות מעמיקות, למשל ממומחי דומיין.

3. Tradeoffs בלתי נמנעים: כל החלטת הנדסה ב-AI כרוכה באיזון בין דיוק, מהירות ומחיר — משהו שכל מי שעובד בתחום מכיר מקרוב.

בסופו של דבר, JioStar מראה ש-AI יכול לשנות את חוויית הצפייה בקנה מידה ענק, אבל זה לא קורה בלי עבודה קשה ומערכת בדיקות חזקה. בעולם שבו כל חברה מנסה לקפוץ על רכבת ה-AI, הסיפור הזה מזכיר שהפרטים הקטנים הם שעושים את ההבדל.

(ואם תהיתם, אז כן — גם ב-2026, כולם עדיין מתלוננים על latency.)