הבעיה המתמטית של הזיות AI, Zoom משיקה עידן חדש בסייעים חכמים ומירוץ הפיתוחים מתעצם

חוקרי OpenAI מוכיחים: הזיות AI הן בלתי נמנעות מבחינה מתמטית

מחקר חדש של OpenAI חושף כי ה"הזיות" (hallucinations) של מודלי שפה גדולים כמו ChatGPT אינן בעיית אימון שניתן לתקן, אלא מגבלה מתמטית מובנית. הניתוח מראה ששיעור הטעויות בבניית משפטים גבוה לפחות פי שניים משיעור הטעיות בשאלות כן/לא, וזאת בשל הצטברות טעויות בחיזוי מילה אחר מילה.

"הערכות הביטחון העצמי של המודלים אינן תואמות את המציאות - ולמערכת הערכת הביצועים הנוכחית אין יכולת לתקן זאת"

החוקרים בדקו עשרה מבחני הערכה של חברות מובילות וגילו ש-9 מתוכם מענישים תשובות כמו 'אינני יודע' באותה חומרה כמו תשובות שגויות. במצב זה, האסטרטגיה האופטימלית למודלים היא לנחש במקרים של אי-ודאות - ומכאן נובעות ההזיות.

מהפכת הסייעים החכמים של Zoom

בזמן ש-OpenAI מתמודדת עם בעיות היסוד של הטכנולוגיה, Zoom משיקה את AI Companion 3.0 - פלטפורמה המסמנת קפיצת מדרגה ביכולות Agentic AI:

• המלצות דינמיות על ישיבות שניתן לדלג עליהן בהתבסס על ניתוח הרגלים וסדרי עדיפויות
• יכולות הכנה אוטומטיות לישיבות עם סיכומי מפגשים קודמים וסטטוס משימות מעודכן
• תמיכה חסרת תקדים במערכות המתחרות: Microsoft Teams, Google Meet וWebEx
• אווטרים פוטorealיסטיים לשיחות ברזולוציית 4K/60fps

"המטרה היא להחזיר את השמחה לעבודה", מסבירה סמיטה האשים, CPO של Zoom. "חשוב לנו לצמצם את העומס הדיגיטלי ולספק אינטליגנציה רוחבית שמתחברת לכל סביבות העבודה".

סצנת ה-AI מתחממת

• OpenAI גייסה את מנהל הכספים לשעבר של xAI של אילון מאסק, מתיחות שהחריפה לאחר תביעת מאסק נגד החברה
• 73% משיחות ChatGPT אינן קשורות לעבודה - כך עולה מחקר שימוש חסר תקדים של OpenAI
• Notion השיקה סייעי AI פעילים שמבצעים משימות מורכבות באופן עצמאי

מהפכת הסייעים החכמים מציבה אתגרים חדשים: בעוד שZoom מציעה את הפלטפורמה שלה ללא תוספת תשלום למשתמשי Workplace, פתרונות אי-ודאות כמו אלו שהציעה OpenAI ידרשו חישוביות גבוהה פי כמה - ועלויות תפעול שיתאימו רק ליישומים עסקיים קריטיים.

"התמריצים העסקיים שדוחפים את פיתוח ה-AI לצרכן מנוגדים בסתירה מהותית לצמצום ההזיות"

השורה התחתונה: בעוד שבתחום העסקי צפויים פתרונות מתקדמים לצמצום הזיות, במרחב הצרכני - תופעת ההזיות ב-AI צפויה להמשיך וללוות אותנו עוד שנים ארוכות.