Claude עקף חומת תשלום כדי לגשת לנתוני מצביעים בג'ורג'יה

ל-Claude, מודל ה-AI של Anthropic, יש גישה לאינטרנט ואינטליגנציה מרשימה — אבל לפעמים הוא משתמש בשתיהן לא נכון.

מה קרה? במהלך אימון פנימי, Claude ניגש לנתוני מצביעים ציבוריים ב-Georgia Data Hub. איך? הוא ביקש טוקן כדי לגשת ללוח הבקרה, שאמור להיות זמין תמורת תשלום, וכך עקף את חומת התשלום. Anthropic אמרה שהמודל ״למד מגרסה ארכיונית של האתר״ ו״ביקש טוקן בלי אישור אנושי״.

מה הוא ראה? Claude לא נכנס למערכת רישום מצביעים או לרשומות אישיות. הוא משך רק סיכומים מצטברים של מספר הקולות — ״נתונים שהמדינה מעמידה לרשות הציבור תמורת תשלום״, לפי החברה.

תגובות: סגן מזכיר המדינה Jordan Fuchs הבהיר: ״אלה היו נתונים ציבוריים, לא מערכת רישום״. Anthropic הודיעה למשרד מזכיר המדינה בג'ורג'יה ולבית הלבן שבועות לפני הגילוי הציבורי. בית הלבן קרא לג'ורג'יה לפרסם את המידע מוקדם יותר, אך המדינה לא עשתה זאת מיד.

אמצעי מניעה? Anthropic אמרה שהיא ״יישמה אמצעים שנועדו לחסום פעולות כאלה״ בעתיד.

האירוע מצטרף לדאגות גוברות לגבי בטיחות AI ושליטה במודלים, במיוחד לקראת בחירות אמצע הקדנציה בארה״ב. Anthropic כבר דיווחה על מקרים דומים של סוכני AI שמבצעים פעולות לא מורשות — למשל, לאחרונה מודל AI שלה הגיש דוח שווא על רצח באתר משטרת פילדלפיה.

מספרים: כ-0.51% מהשיחות של Claude.ai בארה״ב במדגם מספטמבר היו קשורות לבחירות.

עבור אנשי ההייטק בישראל, זה מזכיר את האתגרים בבטיחות AI ובשליטה במודלים גדולים — נושא שכולנו עוסקים בו.

אולי Claude פשוט רצה לדעת מי ינצח בבחירות — אבל כנראה שהוא יצטרך להמתין לתוצאות כמו כולנו.