פריצות דרך בתשתיות AI: אחסון עתיר נפח, טכנולוגיה אופטית ושרתים על-מהירים
KIOXIA משיקה SSD 245TB לאחסון AI, Celestial AI גייסה $255M עבור תקשורת אופטית בין מעבדים, ו-AWS מציגה שרתי Ultra עם 72 GPU-ים לאימון מודלים בטריליון פרמטרים. שלושת הפיתוחים מפחיתים עלויות אנרגיה ומאיצים ביצועים.
אחסון בקנה מידה חסר תקדים עם SSD של KIOXIA
חברת KIOXIA משיקה את דור ה-SSDים החדש - LC9 Series עם נפח מרשים של 245 TB, המיועד במיוחד לעומסי עבודה של בינה מלאכותית. ה-SSD החדש מבוסס על זיכרון BiCS FLASH™ דור 8 עם טכנולוגיית QLC ומציע צפיפות אחסון גבוהה פי 3-5 בהשוואה לדיסקים קשיחים מסורתיים. צריכת האנרגיה הנמוכה והביצועים המרשימים (PCIe® 5.0) מאפשרים לצמצם את טביעת הרגל הפחמנית של מרכזי נתונים תוך תמיכה באימון מודלים מסוג LLM ו-RAG.
מהפכת התקשורת האופטית של Celestial AI
Celestial AI גייסה 255 מיליון דולר בסבב גיוס סדרה C1 להאצת פיתוח הטכנולוגיה האופטית Photonic Fabric. הטכנולוגיה פותרת את צווארי הבקבוק בתקשורת בין מעבדי AI על ידי החלפת תקשורת הנחושת בסיבים אופטיים, במטרה לשפר את רוחב הפס פי 10 עם חיסכון של עד 50% בחשמל. החברה משתפת פעולה עם שחקנים מרכזיים כמו Samsung ו-TSMC על מנת לספק פתרון תשתיתי לדור הבא של מודלי AI בקנה מידה רחב.
עידן הטריליון פרמטרים מגיע עם שרתי Ultra מבית AWS
Amazon SageMaker HyperPod משיק תמיכה בשרתי P6e-GB200 UltraServers המופעלים על ידי שבבי NVIDIA Blackwell GB200 NVL72. כל שרת כזה מכיל 72 GPUים מקושרים ב-NVLink שמספקים 360 פֵּטָה-פְלוֹפְּס (FP8) ו-1.4 אקסָה-פְלוֹפְּס (FP4) לחישובים דלילי פרמטרים. התצורה החדשה מאפשרת אימון ופריסה של מודלים עם טריליוני פרמטרים תוך הפחתת זמן האימון בכ-30% והורדת עלויות התשתית ב-40% בהשוואה לדור הקודם.