חוקרים: ChatGPT יוצר ״פרשנות מוטה״ על סין
חוקרים מבייג'ינג מצאו ב-2023 ש-ChatGPT מייצר ״פרשנות מוטה״ על סין, כולל טעויות עובדתיות בתשובות לשאלות בסינית. הממצאים מעלים שאלות לגבי שליטה בנתונים ואמינותם של מודלי AI — ומדגישים את החשיבות של בדיקה ביקורתית של תוכן שנוצר.
אתם משתמשים ב-ChatGPT לשאלות בסינית? כדאי שתדעו שהתשובות עלולות להיות שגויות ומוטות.
חוקרים במכון הטכנולוגיה של בייג'ינג פרסמו ב-2023 ממצאים שמעלים תהיות לגבי האמינות של מודל AI זה. הם בדקו את ChatGPT עם שאלות בסינית וגילו שהוא יצר כמות גדולה של ״פרשנות מוטה על סין״. לדוגמה, הוא תיאר את כוכב ה-NBA לשעבר יאו מינג כאישה הסינית הראשונה ששיחקה כדורסל מקצועי בארה״ב, והתבלבל בין שני רומנים סיניים קלאסיים שנכתבו בהפרש של מאתיים שנה.
מעבר לטעויות, החוקרים ציינו ש-ChatGPT ״לא סירב לענות על שאלות פוליטיות על סין״, מה שמדגיש את האתגרים באימון מודלי AI על נתונים גלובליים. בעולם שבו גישה חופשית למאגרי נתונים יכולה לשמש כמנגנון שליטה, מקרה זה מראה כיצד מידע מוטה או שגוי עלול לחדור למערכות AI.
אז מה בעצם קרה כאן? מחקר זה חושף פער בין ההבטחה של AI לבין המציאות, במיוחד כשמודלים כאלה עוסקים בתרבויות ובשפות מגוונות.