ידיעות בינה מלאכותית בנושא TRANSPARENCY
מדינות בארה״ב, ובהן אילינוי, מחוקקות תקנות חדשות לרגולציה של AI בחינוך ובתעשייה. בחינוך נאסר שימוש במודלים כתחליף למורים אנושיים בקולג'ים, ונוצרו הנחיות לשימוש אחראי בבתי הספר היסודיים והתיכוניים (K-12). בתעשייה, תקני שקיפות ובטיחות גוררים התנגדות בשל עלויות וסיכון לתביעות. המאבק המשפטי החל בקליפורניה.
מומחי בריאות בכנס לאומי הדגישו את הצורך בשקיפות ובקרה על מערכות AI רפואיות. נציגי כללית ו-Aidoc סיפרו על מערכי רגולציה פנימיים ופיתוחים קליניים, תוך התייחסות לסיכונים כמו הגברת הטיות וטעויות אבחון. הדוברים קראו לגיבוש סטנדרטים חדשים לבקרת מודלים ושקיפותם עד 2026.
OpenAI הטמיעה תכונה חדשנית ב-GPT-5 המיועדת לדווח אוטומטית על מקרים של הזיות, הפרות הוראות או פערים בתפוקות. הטכנולוגיה, שנמצאת בשלב פיילוט, נועדה לשפר את השקיפות, להגביר את האמון ולספק כלי ניטור למפתחים. מומחים מסמנים זאת כצעד משמעותי לקראת פיתוח AI אחראי יותר.
חוקרים מציגים תווית תזונתית למאגרי נתונים (DNL) לשיפור השקיפות בבינה מלאכותית לדרמטולוגיה. הכלי מספק ניתוח מבני של מטא-דטה, מגבלות וסיכונים במאגרי תמונות עור, במטרה לצמצם הטיות ולשפר את אמינות המודלים לאבחון סרטן עור - במיוחד באוכלוסיות שאינן מיוצגות היטב בנתוני האימון.
מחקר חדש חושף כי רק מחצית מההתחייבויות הוולונטריות של חברות ה-AI לבטיחות מיושמות. אפל מדורגת נמוך ביותר עם 13% עמידה בלבד, בעוד OpenAI מובילה עם 83%. החוקרים קוראים למעבר לרגולציה מחייבת במקום הסתמכות על הסכמים וולונטריים.