OpenAI חוסמת חשבונות סינים שמשתמשים ב-ChatGPT לפיתוח כלי מעקב ברשתות חברתיות
OpenAI חשפה חסימה של חשבונות סיניים שניצלו את ChatGPT לבניית כלי מעקב אחר תוכן פוליטי ואתני ברשתות, כולל מערכת מעקב ספציפית לאוכלוסייה האויגורית. הדו"ח החדש חושף גם ניצול של הטכנולוגיה ליצירת הונאות וקמפיינים מניפולטיביים במדינות כמו רוסיה וניגריה.
OpenAI חשפה כי חסמה חשבונות סיניים שהשתמשו ב-ChatGPT לבניית כלי מעקב פוליטי ואתני.
על פי הדיווח, אחד החשבונות שנחסמו נוצר בסין ונוצל כדי לתכנן חומרי פרסום ומודלים לפרויקט מעקב ברשתות חברתיות עבור לקוח ממשלתי. הכלי תוכנן לסרוק פלטפורמות כמו X, פייסבוק, טיקטוק ו-YouTube לאיתור תוכן פוליטי, אתני או דתי ספציפי.
בנוסף, OpenAI חסמה חשבון נוסף שפיתח מודל בשם "High-Risk Uyghur-Related Inflow Warning Model" שנועד לעקוב אחר תנועות של אנשים מקבוצות אתניות אویغוריות - צעד המעורר חשש לניצול טכנולוגיה לדיכוי זכויות אדם.
תמונת מצב עולמית של ניצול לרעה:
- רוסיה, קוריאה וסין: שימוש ב-ChatGPT לשיפור קוד זדוני
- קמבודיה, מיאנמר וניגריה: רשתות הונאה שנוצרו בעזרת ה-AI
- פי 3 יותר שימושים ב-ChatGPT לזיהוי הונאות מאשר ליצירתן
החברה החלה בפברואר 2024 לפרסם דו"חות איומים סדירים, ובמהלך הקיץ חסמה קמפיינים להשפעה דיגיטלית מאיראן ורוסיה שהשתמשו ב-AI ליצירת תכנים מפלגים ברשתות.
כל האירועים מדגישים את האתגר הגובר באבטחת מודלים מבוססי AI מפני ניצול למטרות פוליטיות ופליליות.