HPE AI Factory: התשתית שמאפשרת סוכנים ארגוניים חכמים
HPE ו-NVIDIA משווקות תשתית AI Factory כפתרון לסוכנים ארגוניים, עם פריסות מוצלחות בלייבניץ, יוטה וב-LANL. היתרונות כוללים בניית סוכנים מהירה, חיסכון בעלויות הענן ושליטה בנתונים רגישים — מה שמפחית את הצורך בפיתוח מותאם אישית שנמשך חודשים ארוכים.
בזמן שכולם מדברים על AI גנרטיבי וצ׳אטבוטים, ה-CIOs האמיתיים מתמודדים עם אתגר אחר: איך להפוך את הטכנולוגיה הזו למנוע עסקי יעיל, בטוח ומדרגי? התשובה, לפי שיתוף הפעולה בין HPE ל-NVIDIA, נמצאת במושג חדש: AI Factory — מפעל בינה מלאכותית.
סוכנים חכמים ב-AI Factory: מה השתנה?
בעוד שהדור הראשון של AI התמקד באינטראקציות חד-פעמיות, כמו צ׳אטבוט שעונה על שאלה, סוכני AI הם התפתחות משמעותית. הם יכולים לנתח מטרות מורכבות (״בצע אופטימיזציה לשרשרת האספקה ברבעון השלישי״), לגשת למאגרי מידע ול-APIs, ולבצע משימות כמו עדכון CRM או יצירת הזמנת רכש. אבל כדי שזה יעבוד בקנה מידה ארגוני, צריך תשתית חזקה.
שיתוף הפעולה של HPE ו-NVIDIA: יותר מסתם שרתים
HPE, עם ה-DNA של מחשוב-על מ-Cray, ו-NVIDIA, עם מעבדי ה-GPU ותהליכי AI מתקדמים, חברו כדי ליצור פתרון AI Factory. מדובר בתשתית ייעודית, on-premises, שמאגדת מחשוב, אחסון ורשתות במערכת אחת. לדברי החברה, זה מפחית מורכבות ומאפשר פריסה מהירה.
דוגמה מרכזית היא השימוש ב-NVIDIA NIM Agent Blueprints — workflows מוגדרים מראש למקרי שימוש ארגוניים, עם קוד לדוגמה ומדריכי פריסה. HPE מספקת את התשתית האופטימלית להרצת ה-blueprints האלה, עם ביצועים גבוהים ו-latency נמוך. בין ה-blueprints הזמינים: סוכן חילוץ ידע (Multimodal PDF data extraction), שיכול לקרוא קובצי PDF, כולל טבלאות וגרפים, ולהפוך אותם לתובנות מעשיות.
מקרי בוחן: מי כבר משתמש בזה?
Leibniz Supercomputing Centre (LRZ) בגרמניה
במרכז לייבניץ, המערכת החדשה Blue Lion בנויה על HPE Cray Supercomputing GX5000 ומשלבת NVIDIA Vera Rubin. המטרה: להתמודד עם בעיות מורכבות באסטרופיזיקה ובמידול אקלים, במהירות גבוהה פי 30 ממערכות קודמות. זה מאפשר לחוקרים להריץ מודלים מורכבים שהיו יקרים מדי מבחינה חישובית, ומבטיח שהמחקר האירופי יישאר בחזית העולמית.
אוניברסיטת יוטה: AI ריבוני וחיסכון בעלויות
אוניברסיטת יוטה, בשיתוף עם HPE ו-NVIDIA, בנתה AI Factory on-premises כדי להאיץ מחקר קליני ואקדמי. בגלל רגישותם של נתוני חולים וגנומים, וכן בשל רגולציות בתחום הבריאות, ענן ציבורי לא התאים. התשתית הריבונית הזו, פרי השקעה ציבורית-פרטית-פילנתרופית, מאפשרת שליטה מלאה בנתונים ובביצועים.
פרופסור מניש פראשר, Chief AI Officer באוניברסיטה, ציין: ״תשתית היא המנוע מאחורי חדשנות מבוססת AI.״ האתגר היה לבנות מערכת שיכולה להריץ מודלי LLM ונתונים מולטימודליים תוך שמירה על אבטחה ותאימות. הפתרון: תשתית מלאה שמחברת מחשוב, רשת ואחסון במערכת אחת, מה שמפחית צווארי בקבוק ומגביר יעילות.
לקחים מ-Scalability: הניסיון של Los Alamos
במעבדת Los Alamos National Laboratory (LANL) מתמודדים עם אתגרי סקלאביליות שעשויים ללמד כל ארגון. צווארי בקבוק ברשת יכולים לגרום ל-GPUs להיות מנוצלים בחסר בזמן שהם ממתינים לנתונים. צריכת החשמל גבוהה: מרכזים סטנדרטיים תומכים ב-5 עד 15 קילוואט לארון, בעוד תשתית AI דורשת עד 100 קילוואט, מה שמחייב שדרוגים משמעותיים בקירור נוזלי וברשתות החשמל.
ניהול עומסי עבודה מורכבים, כמו אימון מודלים גדולים על אלפי צמתים, דורש אינטגרציה צמודה בין חומרה ותוכנה כדי למנוע כשלים. LANL, עם דרישות אבטחה גבוהות ועצמאות מענן מסחרי, מדגימה איך תכנון קפדני יכול לאפשר מערכות עמידות.
מה זה אומר עבורכם, עובדי ההייטק?
אם אתם בונים סוכנים ארגוניים, הגישה הזו יכולה לקצר תהליכים. במקום חודשים של פיתוח מותאם אישית, אפשר להתחיל עם blueprints מוכנים ולהתאים אותם. זה גם פותח דלת ל-AI ריבוני — עם שליטה בנתונים ובעלויות, דבר שחשוב במיוחד לחברות עם מידע רגיש או רגולציות.
בסופו של דבר, ה-AI Factory הוא לא רק חומרה; זו פילוסופיה של אינטגרציה מלאה. כמו ש-Cray-1 סימן פריצת דרך במחשוב-על, התשתית הזו מיועדת להיות הבסיס ל-AI ארגוני יעיל ובטוח. אך אל תצפו לקסמים: גם עם תשתית מושלמת, עדיין צריך צוותים מנוסים ותכנון עסקי מדויק.