ידיעות בינה מלאכותית בנושא PENN STATE
צ'אטבוטים מבוססי AI משפיעים על המלצות הצבעה: סקר ישראלי מראה ש-25% מהבוחרים ישקלו להשתמש בהם, ובניסוי עם היסטוריית שיחה, ב-70% מהמקרים הם נתנו המלצה מפורשת. מומחים מזהירים שכלי ה-AI עלולים לחזק דעות קדומות ולהטות את הבחירות בצורה שקטה, בלי שקיפות לגבי ההטיות במודלים.
מחקר חדש מאוניברסיטת Penn State מראה שמודלי AI מתמקדים במאפיינים בודדים, כמו הרגלי שתייה, בעת קבלת החלטות על השתלות, ומפגינים ביטחון-יתר לעומת חוסר החלטיות אנושי. המחקר, שהוצג בכנס FAccT 2026, מדגיש את הפער בין ערכי אנוש לבין ההחלטות של מודלים גדולים של שפה, ומעלה שאלות לגבי השימוש בהם בהחלטות אתיות רגישות.
מחקר מ-Penn State מגלה שמשתמשים רגילים מצליחים לחשוף הטיות ב-ChatGPT באמצעות שאלות אינטואיטיביות באותה יעילות כמו מומחים טכניים. בתחרות Bias-a-Thon זוהו 8 סוגי הטיות (מגדר, גזע, גיל ועוד) דרך 7 אסטרטגיות שאילתה פשוטות. החוקרים ממליצים על סינון אוטומטי, בדיקות אינטנסיביות וחינוך משתמשים לצמצום הבעיה.
ניתוח CBS News מגלה כי עיבודי AI ותגובות אוטומטיות של צ'אטבוטים כמו Grok של X תרמו להפצת מידע שגוי אחרי רצח צ'רלי קירק, כולל זיהוי שגוי של חשוד, עיוות תמונות רשמיות ותיאום כוזב לאירוע. גוגל ו-Perplexity AI הפיקו אף הן תשובות לא מדויקות. המושל קרא לצמצם שימוש ברשתות לנוכח עודף דיסאינפורמציה.
