AWS משיקה תשתיות חדשניות ל-AI: עד 85% האצה באימון מודלים וחיסכון של מאות אלפי דולרים

    9 בספט׳ 2025, 21:08חדשות1 מקורות

    AWS משיקה תשתיות AI חדשניות הכוללות SageMaker HyperPod לשיפור יעילות אימון מודלים, רשתות 10p10u עם פרוטוקול SIDR מהיר פי 10, ומעבדי Blackwell ו-TrainIUM. החידושים מביאים לחסכון של עד 200,000$ ליום, האצת אימונים ב-85%, ויכולת אימון מודלים בקנה מידה חסר תקדים.

    AWS משיקה תשתיות חדשניות ל-AI: עד 85% האצה באימון מודלים וחיסכון של מאות אלפי דולרים

    מהפכת התשתיות של AWS: איך ענקית הענן מתמודדת עם אתגרי ה-AI

    עם המעבר של ארגונים מניסויי AI לפריסות ייצור בקנה מידה, דרישות התשתיות הגיעו למימדים חסרי תקדים. AWS משיקה סדרת פתרונות מתקדמים להתמודדות עם אתגרי החישוב, הרשת והאמינות:

    SageMaker HyperPod: מהפכה בניהול אימון מודלים

    • חוסכים עד $200,000 ליום באימון על 16,000 GPU באמצעות יכולות שחזור אוטומטיות
    • תפריטי הדרכה ל-30+ מודלים מובילים כולל Llama ו-Mistral עם קונפיגורציה אוטומטית
    • טכנולוגיית Managed Tiered Checkpointing מקצרת זמני שחזור ב-42%

    משחקים בגדול: רשתות AI מדור חדש

    • 10p10u Infrastructure:
      • 3 מיליון חיבורי רשת חדשים ב-2024
      • תמיכה ביותר מ-20,000 GPU עם פחות מ-10 מיקרו-שניות השהייה
      • פרוטוקול SIDR החדש מגיב לשינויים בתוך שניה אחת - פי 10 מטכנולוגיות קיימות

    כוח חישוב מותאם AI

    • מעבדי Blackwell של NVIDIA ב-P6 instances עם 1.4TB זיכרון GPU
      • האצה של 85% בזמני אימון (נבדק ב-JetBrains)
    • AWS Trainium - שבב מותאם ML עם ארכיטקטורת systolic array ייחודית
    • אפשרות הזמנה מראש של משאבי EC2 עד 6 חודשים

    "AI יכול להיות רק טוב כמו התשתית עליו הוא בנוי", מסביר בארי קוקס, VP Technology ב-AWS. "המחויבות שלנו היא לספק את הבסיס לפריצות הדרך הבאות בבינה מלאכותית".

    מקורות

    ידיעות קשורות