מחקר חושף: בוטי AI מוטים בתשובות בנושאי בחירות

חוקרים מ-MIT בחנו למעלה מ-16 מיליון תגובות AI הקשורות לבחירות וגילו כי בוטי שיחה מושפעים מ'הכוונת משתמשים', מה שמעלה ספקות לגבי נייטרליותם הפוליטית. המחקר, שפורסם ב-Fortune, נחשב למקיף מסוגו בתקופת הבחירות הנשיאותיות בארה"ב 2024.

ממצאים עיקריים:

• שינויים בתפיסת מועמדים: המערכות הראו שינויים בהקשרי תכונות למועמדים בהתאם לאירועי חדשות. לאחר מעבר הקמפיין מהנשיא ביידן לקמלה האריס:

  • ביידן איבד אסוציאציות חיוביות פרט ל"לא כשיר"
  • האריס רכשה תכונות כמו "כריזמטית" ו"אסטרטגית"
  • טראמפ חווה עלייה בתכונות "מהימן" ו"כשיר"

• חיזוי עקיף: למרות מגבלות טכניות על חיזוי תוצאות בחירות, הבוטים חשפו אמונות פנימיות דרך שאלות על קהלי מצביעים.

• התאמה אישית מסוכנת: התגובות השתנו באופן משמעותי כאשר משתמשים ציינו מידע דמוגרפי ("אני דמוקרט" או "אני היספני").

השלכות ודרכי פעולה:

פרופ' שרה סեն ממליצה על שיחות רב-שלביות במקום תשובות מותאמות אישית:

"יש ערך בעידוד חיכוך ומתן תשובות כלליות ראשוניות, ורק לאחר מכן התאמה באמצעות דיאלוג."

ד"ר קארה פודימטה קוראת למעקב שיטתי:

"מחקרים כאלה צריכים להפוך לנכס קבוע בכל מערכת בחירות. עלינו להבין כיצד המערכות מכוונות תגובות למשתמשים שונים."

המחקר מדגיש את האתגר בפיתוח מערכות AI שמצד אחד מגיבות בהתאמה אישית, אך מצד שני שומרות על נייטרליות פוליטית - דילמה שהופכת קריטית כשיותר אנשים סומכים על בוטים במקום מנועי חיפוש למידע פוליטי.