Anthropic מטמיעה סימני מים ב-Claude — אבל זה לא יעצור אף אחד
Anthropic מטמיעה סימני מים בכל הטקסטים ש-Claude מייצר, גלובלית — לא מרצון אלא בגלל חוק ה-AI האירופי. השיטה מבוססת על טכניקה של Google, אבל מוגבלת לטקסטים ארוכים ומציגה רק סבירות, לא ודאות. מחקר מראה שאנשים לא מזהים טקסט AI וששחקנים מתוחכמים יעקפו כל סימן שניתן לזיהוי.
Anthropic הודיעה לאחרונה שהיא מטמיעה סימני מים (watermarks) בכל הטקסטים ש-Claude מייצר — בכל המדינות, בכל המוצרים. זה לא בא מלחץ שוק או מפריצת דרך טכנולוגית. זה בא מהאיחוד האירופי.
מה בעצם קרה כאן?
חוק ה-AI האירופי (EU AI Act) נכנס החודש לשלב האכיפה שלו, עם קנסות של עד 7% מההכנסה הגלובלית על חברות שמפרות את הכללים. אחת הדרישות המרכזיות: שקיפות — כלומר, שאנשים יוכלו לדעת מתי טקסט נכתב על ידי מודל AI. Anthropic החליטה ליישר קו גלובלית, ולא רק באירופה.
איך זה עובד?
Anthropic אימצה שיטה ש-Google כבר משתמשת בה ב-Gemini. הרעיון פשוט יחסית: למודל יש שתי רשימות מילים, ובזמן היצירה הוא מכוון את הבחירה שלו כך שטקסטים שיכילו מספיק מילים מרשימה אחת יהיו בעלי סיכוי סטטיסטי גבוה להיחשב כיצירת AI. המפתח (key) מאפשר לאמת את זה.
הסימן מוטמע ברמת המודל — כלומר הוא מופיע בכל תשובה של Claude, לא משנה מאיפה הגיעה. לדברי החברה, "אתם לא תראו את זה, וזה לא משנה את המשמעות, האיכות או הקריאות של התשובה." הוא גם שורד העתקה-הדבקה ועריכה חלקית.
מגבלות רציניות
אבל יש בעיות. השיטה לא עובדת טוב על טקסטים קצרים, והיא רק מראה "סבירות" — לא הוכחה חד-משמעית. זה אומר שבפועל, מישהו שיעתיק פסקה קצרה מ-Claude יוכל לעבור מתחת לרדאר בקלות.
למה זה בכלל לא יעבוד?
מחקר שמובא ב־Time מראה תמונה עגומה עוד יותר: אנשים פשוט לא יודעים לזהות טקסט שנכתב על ידי AI. אתם אולי חושבים שאתם מריחים פייק מרחוק — אבל המחקר מראה שזה כמעט אף פעם לא מחזיק לאורך זמן. כל סימן שניתן לזיהוי הופך לסימן שניתן לעקיפה על ידי שחקנים מתוחכמים.
האנלוגיה מימי האינטרנט המוקדמים רלוונטית: פעם, אתר חובבני עם לינקים שבורים ועיצוב גרוע היה סימן אזהרה. היום? כולם יודעים לעצב אתרים. אותו דבר יקרה עם סימני מים — אם בכלל אפשר יהיה לזהות אותם מלכתחילה.
הממד הגיאו-פוליטי
המהלך צפוי להגביר את המתיחות בין וושינגטון לבריסל. ממשל טראמפ כבר הודיע על בדיקה רשמית של "הפרקטיקות המפלות" של האיחוד כלפי חברות טכנולוגיה אמריקניות. עם כניסתו המלאה לתוקף של חוק ה-AI, האמריקניות יצטרכו לבחור: ליישר קו עם האיחוד, או להילחם.
אז נכון, Anthropic עושה צעד של ציות. אבל אם המטרה היא באמת לזהות טקסט AI בעולם האמיתי — סימני מים הם כנראה לא התשובה. יותר כמו מנעול על דלת מסתובבת.