Goodfire טוענת: האטימות של מודלי AI ניתנת לפתרון
מחקר חדש של Goodfire מציג טענה שלפיה האטימות של רשתות עצביות שנמצאות בבסיסם של מודלי AI רבים אינה גזירת גורל. במחקר מוצגת שיטה שמסייעת להביט פנימה — וחלק מעובדי OpenAI רואים בזה רגע משמעותי. השאלה: האם יהיה אפשר לייצב מודלים מסובכים בלי לאבד שליטה?
למי שדואג מהעתיד הלא ברור של הבינה המלאכותית, יש חדשות מעודדות. מחקר חדש טוען שהאטימות של רשתות עצביות — המבנים שנמצאים בבסיסם של מודלי AI רבים — נובעת מכלים גרועים וממחסור בדמיון, ולא ממגבלות מובנות. ניק קמרטה מהסטארט-אפ Goodfire פיתח שיטה שמרימה את המכסה ומסייעת להבין את ההתנהגות הפנימית.
כמה מעובדי OpenAI כינו את העבודה הזו ״potentially historically significant״, אך יש מי שמפקפקים. אז מה בעצם קרה כאן? אם הגישה תעבוד, זה יכול לקדם פיתוח של AI בטוח ואמין יותר.