ידיעות בינה מלאכותית בנושא HALLUCINATIONS
עורכי דין שייצגו את State Farm בבית משפט בקליפורניה הגישו מסמכים עם ציטוטי פסיקות מומצאות לחלוטין — תוצר של מודל AI, שהציטוטים שהפיק לא נבדקו. עורכת הדין האחראית התנצלה ואמרה שהשתמשה ב-Irys בלי לוודא את נכונות הציטוטים. עורך דין בדימוס כינה את המקרה "מעבר לכל הבנה".
טכנולוגיית Automated Reasoning מספקת מענה לבעיית ההזיות של מודלי שפה, באמצעות היגיון מתמטי הניתן להוכחה. השיטה כבר מיושמת בתחומים כמו משפטים, מתמטיקה וענף הענן, ומבטיחה דיוק מוחלט ביישומי AI קריטיים. המערכות פועלות בעלות נמוכה ללא GPU ומאפשרות שקיפות מלאה בתהליכי קבלת ההחלטות.
מחקר חדש של OpenAI מוכיח שהזיות AI הן בלתי נמנעות מתמטית, בעוד Zoom משיקה סייעים חכמים שיודעים להמליץ אילו ישיבות לדלג עליהן ולפעול במערכות מתחרות. המירוץ הטכנולוגי מתחמם עם גיוס בכירים ממתחרים ומסחור סייעי AI מתקדמים, אך צמצום ההזיות נותר אתגר עתידי.
מחקר חדש של OpenAI חושף כי הזיות AI נובעות משיטות אימון שמתגמלות ניחושים על פני הודאה בחוסר ידע. הפתרון המוצע: תכנון מחדש של שיטות ההערכה כך שיענישו תשובות שגויות בטוחות ויתגמלו ביטויי אי-וודאות. זהו אתגר מהותי לכל המודלים השפתיים הגדולים כמו GPT-5 ו-Claude.
למרות ההבטחות, AI עדיין רחוק מהחלפת שיפוט אנושי - במיוחד במסקנה מטרידה מבדיקה שבה מערכות המציאו סיפור מלא פרטים על עבודת נעורים בדיונית של אילון מאסק בגינון. מחבר מאמר ב'פורצ'ן' מסביר מדוע עלינו להיזהר מתלות יתר במערכות ללא בקרה אנושית, ומה הופך את החשיבה האנושית לבלתי ניתנת להחלפה.
