חוקרים חושפים: AI מזהה טעויות פנימיות אך לא מתקן - ומדענים מחפשים פתרונות במוח האנושי

AI מזהה את טעויותיו אך מתעקש לא לתקנן - מחקר פורץ דרך מהטכניון

צוות חוקרים מהטכניון, אפל וגוגל חשף כי מודלי שפה גדולים (LLM) יודעים מתי הם טועים - אך לא מתקנים את עצמם. המחקר, שהוצג בכנס ICLR 2025, מראה כי המידע על נכונות התשובה מקודד בייצוגים הפנימיים של המודל, לעיתים באסימונים (Tokens) ספציפיים.

ד"ר הדס אורגד מהטכניון מסבירה: "בניתוח ייצוגים פנימיים גילינו שניתן לחזות טעויות מראש. באופן פרדוקסלי, גם כשהמודל 'יודע' את התשובה הנכונה - הוא עלול לתת תשובה שגויה בעקביות".

מנגנון ההטעיה: למה AI בוחר לטעות במודע?

• סיבת עיקרית: אימון המודלים מתמקד בחיזוי מילים וקבלת פידבק אנושי - לא בדיווק עובדתי
• ממצא מפתיע: פער בין ה"ידע" הפנימי של המודל להתנהגות החיצונית הנצפית
• סוגי טעויות מזוהים: טעויות אקראיות (ניחוש) vs טעויות עקביות (בטחון שגוי)

אורגד מדגישה: "העובדה שה-AI מקודד מידע על טעויות מבלי לתקנן מחייבת פיתוח מנגנוני בקרה חדשים, במיוחד ביישומים קריטיים כמו רפואה".

השראה מוחית: הדור הבא של רשתות נוירונים

במקביל, חוקרים מאוניברסיטת Surrey בבריטניה פיתחו גישה חדשה המחקה את חיווט המוח האנושי (Topographical Sparse Mapping). במחקר שפורסם ב-Neurocomputing הראו כי חיבור נוירונים מלאכותיים רק לשכניהם הקרובים - בדומה לארגון המוח - משפר ביצועים תוך חסכון באנרגיה.

יתרונות הגישה הביומימטית:

• חיסכון אנרגטי: צמצום צריכת החשמל של אימון מודלי ענק (לעיתים מעל מיליון קו"ש)
• שיפור ביצועים: דיוק גבוה יותר באמצעות "גיזום ביולוגי" (biologically inspired pruning)
• קיימות: צמצום הקשרים הלא נחוצים ברשת העצבית

ד"ר רומן באואר מציין: "המערכת המוחית נותנת לנו דגם לAI יעיל ובר-קיימא - זהו שינוי פרדיגמה נדרש".

כיווני התפתחות עתידיים

שני המחקרים מצביעים על מגמות משלימות בפיתוח AI:

1. הבנה עמוקה יותר של המנגנונים הפנימיים במודלים קיימים
2. עיצוב מערכות חדשות בהשראת הביולוגיה האנושית

כפי שמסכמת אורגד: "התחום מתקדם לעבר דור שני של AI - מדויק יותר, שקוף יותר וחסכוני במשאבים. הפריצה תתאפשר רק בשילוב בין שני הכיוונים הללו".