AI + UNIVERSITY OF CALIFORNIA

    ידיעות בינה מלאכותית בנושא UNIVERSITY OF CALIFORNIA

    סייבר
    מחקר: דילול מודלי AI פוגע במנגנוני הבטיחות – וכיצד מתקנים זאת

    מחקר: דילול מודלי AI פוגע במנגנוני הבטיחות – וכיצד מתקנים זאת

    חוקרים מאונ' קליפורניה גילו שדילול מודלי AI למכשירים ניידים פוגע במנגנוני הבטיחות המובנים. באמצעות אימון מחדש של השכבות הפנימיות, הצליחו לשמר יכולת זיהוי תוכן מסוכן ללא תוספות חיצוניות. הפתרון נבדק בהצלחה על מודל LLaVA 1.5 והוא צפוי לתרום לפיתוח AI יעיל ובטוח יותר.