ידיעות בינה מלאכותית בנושא ROUTING
Snowflake מכריזה על ראוטינג דינמי ב-Cortex AI Gateway — תכונה שבוחרת אוטומטית איזה מודל יטפל בכל קריאה, לפי עלות, איכות ו-latency. בבדיקות פנימיות, זה שיפר את היעילות פי 3 לעומת שימוש במודל יקר בלבד. התכונה תהיה זמינה בקרוב ב-private preview, ו-Snowflake מצרפת גם את DeepSeek-V4-Flash ו-GLM-5.3 לספרייה.
סוכני AI מבצעים 99% מעבודת הפיתוח ב-Kilo Code, אבל העלויות מזנקות עקב השימוש בטוקנים. חברות עוברות לניתוב מודלים חכם כדי לחסוך עד 30% בעלויות, על רקע הנתון שלפיו 62% מהארגונים שינו החלטות עסקיות בגלל הוצאות AI בלתי צפויות.
מחקר של Twilio חושף פער של 31 נקודות אחוז בין מה שמנהלים חושבים על שירות ה-AI לבין מה שהלקוחות באמת חווים. החדשות: לא מדובר במהירות אלא בפתרון, והפלטפורמה הרפואית OhMD כבר הראתה שיפור של 60% בפתרון עצמי באמצעות סוכן AI קולי.
