AI לומדת לפעול לפי נורמות: שילוב חדשני בין לוגיקה ללמידת מכונה
חוקרים מ-TU Wien פיתחו שיטה המשלבת לוגיקה ולמידת מכונה כדי ללמד AI לפעול לפי נורמות מורכבות (כמו כללים אתיים או חוקיים). השיטה מאפשרת יצירת הירarchy של נורמות, עדכונן ללא אימון מחדש, וטיפול בנורמות מותנות. המחקר זכה בפרס Distinguished Paper ב-IJCAI 2025.
מהפכה באילוף בינה מלאכותית: איך מלמדים AI לפעול לפי כללים?
חוקרים מאוניברסיטת TU Wien פיתחו גישה פורצת דרך המשלבת לוגיקה מתמטית ולמידת חיזוק (Reinforcement Learning) כדי ללמד מערכות בינה מלאכותית לפעול בהתאם לנורמות מוגדרות - החל מחוקי תעבורה ועד כללים אתיים מורכבים.
הבעיה בשיטות המסורתיות
בלמידת חיזוק קלאסית, מערכות AI לומדות דרך ניסוי וטעייה תוך קבלת 'פרס' על פעולות נכונות. אך כפי שמסבירה פרופ' אגאטה צ'בטוני, "שיטה זו אינה יעילה עבור נורמות מותנות כמו 'עשה X רק אם מתקיים תנאי Y'". מערכות עלולות למצוא דרכים לעקוף את הרוח של הכללים תוך התמקדות ברווח מיידי.
הפתרון הלוגי החדש
החוקרים הציגו במחקר זוכה הפרס (Distinguished Paper Award ב-IJCAI 2025) מערכת שבה:
- נורמות מתורגמות לנוסחאות לוגיות המדמות 'עונש' על הפרתן
- כל נורמה מטופלת כיעד אוטונומי עם משקל יחסי משלה
- המערכת מחשבה אוטומטית את האיזון בין היעדים השונים
"השיטה מאפשרת אפילו לבנות היררכיות של נורמות", מדגיש אמרי נויפלד, כותב ראשי במחקר. "ניתן להגדיר שחוק מסוים חשוב יותר מאחר, ולעדכן זאת ללא צורך באימון מחדש!".
השלכות מעשיות לעתיד
הטכנולוגיה החדשה עשוית לשמש ב:
- רכבים אוטונומיים המקבלים החלטות אתיות
- מערכות אבטחה המצייתות לתקנות פרטיות
- רובוטים בעלי יכולות קבלת החלטות מורכבות
חוקרת צ'בטוני מסכמת: "פתחנו צוהר ל-API של מוסר - מערכת שמאפשרת להזריק נורמות ל-AI בצורה גמישה ומדויקת יותר מאי פעם".
המחקר המלא פורסם לקראת כנס IJCAI 2025 במונטריאול.