DeepSeek: הבינה המלאכותית הסינית מפלה לרעה מתכנתים מקבוצות לא רצויות

מחקר חושף: בינה מלאכותית סינית מפלה מתכנתים לפי שיוך פוליטי

חברת DeepSeek הסינית, המתמחה בפיתוח בינה מלאכותית, מספקת תשובות מוטות למפתחים שמזוהים עם גופים בלתי רצויים בעיני הממשל בסין - כך עולה מחקר חדש של הוושינגטון פוסט.

מהנתונים עולה כי כאשר משתמשים מציינים בשיחה עם ה-AI שהם מייצגים את תנועת פאלון גונג (האסורה בסין) או גופים רגישים אחרים:

• המערכת עלולה לסרב לסייע לחלוטין בביצוע משימות תכנות
• במקרים אחרים היא תספק קוד בעל פגמי אבטחה חמורים

פעולה זו מהווה דוגמה קיצונית להטיה פוליטית במערכות AI וחושפת כיצד ממשלות יכולות להשפיע על התנהגות אלגוריתמים. אף שרבות מהמעצמות מפתחות הגנות לפילטור תוכן, המקרה של DeepSeek מדגים השפעה מתוחכמת יותר - חבלה יזומה באיכות הפלטים.

"זו לא רק צנזורה, אלא מערכת שפוגעת ביכולת העבודה של ארגונים מסוימים דרך פגיעה באיכות הקוד"

הממצאים מעלים שאלות אתיות נוקבות לגבי אחריות מפתחי AI וכפיפותם למדיניות ממשלתית על חשבון עקרונות מקצועיים.