סין חוקרת חברות AI על העברת מידע ל-Claude
חקירת רגולטור הסייבר הסיני נגד DeepSeek ו-Moonshot AI נפתחה לאחר ש-Anthropic זיהתה 35 מיליון אינטראקציות חריגות עם Claude, כולל מידע רגיש ממערכת מעקב צבאית. הפרשה מדגישה את הסיכונים שבהעברת נתוני משתמשים בין מדינות ומאיימת על השאיפות של סין לבנות תעשיית AI עצמאית.
זה נשמע כמו תסריט ריגול, אבל זו המציאות של עידן ה-AI: מינהל הסייבר של סין (CAC) פתח בחקירה נגד DeepSeek ו-Moonshot AI, שתיים מהחברות החשובות ביותר בזירת הבינה המלאכותית המקומית. החשד? הן העבירו שאילתות של משתמשים, כולל מידע רגיש, למודל האמריקני Claude של Anthropic, בלי שהמשתמשים ידעו.
הסיפור נחשף על ידי Anthropic עצמה, שעוקבת באופן קבוע אחר שימושים חריגים במודל שלה. במסגרת בדיקות כאלה, החברה זיהתה פעילות בהיקף מדהים: יותר מ-35 מיליון אינטראקציות עם Claude, שאותן היא מייחסת לשתי החברות הסיניות. מתוך אלה, יותר מ-23 מיליון קשורות ל-Moonshot, העומדת מאחורי עוזר ה-AI Kimi, ויותר מ-12 מיליון קשורות ל-DeepSeek. חשוב לציין שהמספר הזה אינו מייצג 35 מיליון שאילתות משתמשים ישירות – מרבית הפעילות קשורה לניסיונות להשתמש ב-Claude כדי לשפר מודלים מתחרים, תהליך המכונה 'זיקוק' (Distillation).
אך מה שבאמת הרים גבות היה סוג הפעילות. לטענת Anthropic, Moonshot לא רק שלחה שאילתות אימון ל-Claude, אלא גם העבירה בקשות אמיתיות של משתמשי Kimi. במילים אחרות, משתמש היה יכול לשאול שאלה ב-Kimi, לחשוב שהיא מעובדת על ידי השירות הסיני, אבל בפועל חלק מהתשובות הגיעו מ-Claude האמריקני. בבדיקה של עשרה ימים בלבד זוהו כמעט 300 אלף בקשות כאלה, שהועברו דרך אלפי חשבונות.
העניין הפך חמור יותר כאשר התגלה מידע רגיש במיוחד. במקרה אחד, משתמש ב-Kimi ביקש עזרה בניתוח נתונים ממערכת מעקב עירונית בצ'נגדו, שכוללת מאות מצלמות – חלקן הוצבו מחוץ למתקנים של צבא סין ומוסדות ביטחוניים. המידע הזה, לפי Anthropic, הועבר לעיבוד ב-Claude, ולמשתמש לא היה מושג שמודל אמריקני מעורב.
עבור בייג'ינג, זה קו אדום. סין מפקחת בקפידה על העברת מידע אל מחוץ למדינה, במיוחד כזה שקשור לביטחון לאומי. מינהל הסייבר זימן מנהלים ועובדים משתי החברות לחקירה, ובודק אם המשתמשים ידעו שהשאילתות שלהם עשויות לצאת ממערכות סיניות, איזה מידע הועבר, והאם החברות הפרו חוקים סיניים.
עיתוי החקירה מציב את DeepSeek במצב אירוני במיוחד. החברה אמורה לתדרך השבוע את מועצת הביטחון של האו"ם בנושא הסיכונים שמציבה הבינה המלאכותית לביטחון הבינלאומי, בזמן שהיא עצמה נחקרת על שימוש לא מורשה בטכנולוגיה אמריקנית. Moonshot גם הוזמנה להשתתף בדיון.
מעבר למקרה הספציפי, הפרשה חושפת מתחים גלובליים גדולים. סין משקיעה בשנים האחרונות משאבים עצומים בפיתוח AI עצמאי, במטרה להפחית תלות בטכנולוגיה אמריקנית. אך כאן חברות סיניות מואשמות בהסתמכות על מודל אמריקני, ועוד תוך העברת נתונים רגישים – מה שמדגיש אתגרי אמון, פרטיות והמאבק הגלובלי על שליטה ב-AI.
אז בפעם הבאה שאתם מזינים שאלה למודל AI, אולי כדאי לזכור: לא תמיד ברור מי באמת עונה לכם.