TypeSafe AI: מודל AI חדש מפחית הזיות באמצעות ויתור על שפה טבעית
TypeSafe AI, שנוסדה על ידי דיוגו אלמיידה, מפתח לשעבר ב-OpenAI, משיקה את Jev – מודל AI שמחזיר רק נתונים מובנים, לא שפה טבעית. המטרה: למנוע ״הזיות״ ולספק תשובות מהירות יותר. זמן תגובה: 70–500 מילי־שניות, מחיר: 42 דולר למיליארד טוקנים של קלט.
תופעת ה״הזיות״ (Hallucinations) במודלי שפה גדולים (LLM) היא אחת הבעיות המרכזיות בעולם הבינה המלאכותית. מודלים מתקדמים ממציאים עובדות בביטחון מופרז, מה שמוביל לשגיאות קריטיות ביישומים עסקיים.
דיוגו אלמיידה, לשעבר מפתח בכיר ב-OpenAI ואחד ממפתחי RLHF, מציע גישה חדשה דרך הסטארטאפ שלו, TypeSafe AI. החברה השיקה לאחרונה את Jev, מודל AI שאינו מייצר שפה טבעית, אלא מחזיר אך ורק נתונים מובנים (Typed data).
איך זה עובד?
Jev פועל כ״מערכת 1״ – מושג מפסיכולוגיה קוגניטיבית המתאר עיבוד מהיר ואינטואיטיבי. הוא מקבל שאלות מוגדרות מראש ומחזיר תשובות מובנות בליווי ציוני הסתברות ורמות ביטחון. האימון מבוסס על שיטת RLCD (Reinforcement Learning for Calibrated Decisions), שבה המודל מאומן לדעת מתי הוא אינו בטוח.
יתרונות וביצועים
התוצאות מהירות: זמן תגובה של 70–500 מילי־שניות, לעומת זמני תגובה של שניות במודלים גדולים. העלויות נמוכות: 42 דולר למיליארד טוקנים של קלט, ללא חיוב על פלט, שכן אין ייצור טקסט. אלה עלויות נמוכות בסדרי גודל בהשוואה למודלים מובילים.
הקשר לתעשייה
גישה זו מתאימה במיוחד לזרימות עבודה אוטומטיות, שבהן מכונות זקוקות להחלטות קטגוריות ומהירות. עבור מפתחי תוכנה, היכולת לזהות אי־ודאות בדיוק של 5% חשובה יותר מדיוק כללי שאינו מתריע על חריגות.
TypeSafe AI מסמנת מעבר מתפיסת ״המודל שעושה הכול״ לפיתוח כלי עבודה הנדסיים ממוקדים. אם ויתור על הדיבור יהפוך את ה-AI לשימושי יותר, נגלה בעתיד.