AI + LLAMA 70B

    ידיעות בינה מלאכותית בנושא LLAMA 70B

    חברה
    מחקר: סוכני AI צורכים פי 136.5 יותר אנרגיה מצ'אטבוטים

    מחקר: סוכני AI צורכים פי 136.5 יותר אנרגיה מצ'אטבוטים

    מחקר מ-KAIST חושף שסוכני AI צורכים עד פי 136.5 יותר אנרגיה ממודלים רגילים, בגלל מנגנון לולאות שמשאיר GPU idle. התחזיות מצביעות על כך שאם השימוש יגיע לנפחי חיפוש גוגל, זה ידרוש חצי מתצרוכת החשמל של ארה"ב – ומעלה חששות לגבי קיימות ה-AI בעתיד.