Anthropic מוסיפה סימני מים לטקסטים שנכתבו ב-AI

אתם מכירים את התחושה הזו שאתם מבקשים מ-Claude AI לכתוב לכם אימייל, והוא מחזיר טקסט שמרגיש קצת... רובוטי? אז עכשיו, לא רק שהוא רובוטי, הוא גם מתויג. Anthropic החלה לאחרונה להטמיע סימני מים בלתי נראים בטקסט שנוצר על ידי מודלי ה-AI של Claude, צעד שנועד לעמוד ברגולציה החדשה של האיחוד האירופי.

אז מה בעצם קרה כאן? החל מ-2 באוגוסט, כל מודל Claude שהושק — בין אם דרך ממשק ה-API, Claude עצמו, Claude Code, Claude Cowork או Claude Tag — מייצר טקסט עם סימן מים סטטיסטי. הכוונה היא לדפוס מובנה בבחירות המילים שהמודל עושה בזמן אמת, דפוס ש-Claude יכול לזהות באמצעות כלי ייעודי שתשיק בקרוב. מבחינתכם, כמשתמשי קצה, השינוי אמור להיות שקוף לגמרי; לא תרגישו הבדל באיכות הכתיבה, לטענת החברה.

למה עכשיו? הטריגר הוא ה-Code of Practice on Transparency of AI-generated Content של האיחוד האירופי, חלק מרגולציית ה-AI Act. התקנות מחייבות חברות AI ליידע צרכנים כשהם מתקשרים עם מערכת בינה מלאכותית, ולכלול סימני מים בתוכן שנוצר ב-AI. כ-200 ארגונים כבר התחייבו למדדים האלה, ו-Anthropic מציינת שהצעד הזה הוא חלק מההתחייבויות שלה כלפי האיחוד.

איך זה עובד בפועל? אם אתם זוכרים שמודלי שפה גדולים (LLMs) בוחרים מילים על בסיס הסתברותי — בין אם לקרוא ליום "אפור" או "מעונן", או לתאר נחל כ"פלג" או "אפיק" — אז סימן המים משנה מעט את הבחירות האלה. זה לא מחליף מילים, אלא משפיע על הבחירות האקראיות הקטנות האלה כדי ליצור דפוס עקבי שרק מערכת ייעודית יכולה לזהות. פרופסור למדעי המחשב מאוניברסיטת קולג' לונדון, Steven Murdoch, טוען שהשינוי "כנראה לא יורגש" מבחינת האיכות, שכן מודלים ממילא עושים שימוש במרכיב אקראי כדי למנוע חזרתיות.

אבל לא כולם שמחים. ג'ון גרובר, בלוגר טכנולוגיה ותיק, כינה את הצעד "זיהום של משמעות הכתיבה". לטענתו, אילוצים כאלה עלולים לגרום ל-Claude לבחור מילים פחות מדויקות. אחרים מודאגים מתסריטים מעשיים יותר: מפתחים פרילנסרים חוששים שסימן מים בקוד שנשלח ללקוח יעורר שאלות על מקוריות; אנשי אקדמיה חוששים מבעיות עם חוקי AI נוקשים.

התגובה: שקיפות מול פרטיות

מבחינת התומכים, מדובר בצעד חשוב לעידן השקיפות. Aadit Sheth, מייסד-שותף של חברת התקשורת The Narrative Company, טען בפוסט ברשת החברתית X שאנשים צריכים לדעת אם הטקסט שהם קוראים משקף את החשיבה של הכותב, או שמדובר במערכת אחרת. בעולם של פוסטים ברשתות חברתיות, מועמדויות עבודה ומטלות אקדמיות, קשה לדעת מה אנושי ומה נוצר ב-AI.

אך הצעד גם עורר חששות כבדים. חלק מהמשתמשים כבר ביטלו את המנויים שלהם ל-Claude מחשש שתגית AI תעקוב אחר עבודתם. יש מי שחושש מכך שסימן המים, גם אם אינו מציין ארגון או משתמש ספציפי, ייצור בעיות מול לקוחות, מעסיקים או מוסדות. Anthropic מדגישה שסימן המים אינו נועד לקבוע מחברוּת, אלא לזהות "מעורבות" של Claude בשלב כלשהו.

גל הכלים החדשים: מסירי סימני מים

ובתגובה לתגובה הזו? גל חדש של כלים לעקיפת הסימנים. חיפוש בגוגל אחרי "AI watermark remover" עלה ב-60% בשבוע האחרון בארה"ב. מפתחים ויזמים כבר בונים כלים שנועדו להסיר את הדפוסים האלה.

Guillaume Meyer, יזם טכנולוגיה פריזאי ומייסד כלי ה-AI Memo למסחר אלקטרוני, שחרר פרויקט קוד פתוח בשם "Watermarks Remover" ימים ספורים אחרי ההכרזה של Anthropic. הכלי מסיר תווים חבויים ומטא-דאטה, ואז כותב מחדש את הטקסט כדי לשמור על המשמעות, ובכך משבש את דפוסי בחירת המילים. לקח לו כחמש שעות לבנות את הגרסה הראשונה, והיא כבר צברה יותר מ-14,000 כוכבים ב-GitHub. Meyer מבהיר שהוא בעד ייחוס תוכן, אך נגד טכניקת סימני המים, שלדבריו מתייחסת למחברוּת כדבר בינארי. הוא כינה את הרגולציה "התשובה הלא נכונה לבעיה אמיתית".

Sabrina Ramonov, מחנכת AI ליזמים, גם היא פיתחה כלי דומה. כלים אלה אינם מבטיחים הסרה מוחלטת, אך הם מייצגים מאמץ מתמשך של קהילת המפתחים לאתגר את מנגנוני הפיקוח. Anthropic לא הגיבה לשאלות על כלים כאלה.

מה עומד על הכף?

עבור אנשי ההייטק הישראלים, הסיפור הזה נוגע בכמה נקודות רגישות. ראשית, אם אתם משתמשים ב-Claude כעוזר בכתיבת מסמכים או קוד, אתם צריכים להיות מודעים לכך שהטקסט שלכם נושא בתוכו טביעת אצבע דיגיטלית, גם אם היא בלתי נראית. שנית, צמיחתה של תעשיית הכלים להסרת סימני מים עשויה ליצור שוק חדש של כלי "ניקוי" לתוכן שנוצר ב-AI, מה שיכול להוות הזדמנות עסקית או כאב ראש רגולטורי.

מבחינת האקוסיסטם, זה מראה כיצד רגולציה אירופית יכולה להשפיע על חברות AI גלובליות כמו Anthropic ולעצב מחדש את האופן שבו אנו מתקשרים עם הכלים האלה. אם בעבר היה קל "לרמות" עם AI, עכשיו נדרש מאמץ קטן יותר כדי לזהות את הרמאות, אך גם מאמץ קטן יותר כדי לעקוף אותה.

בסוף, מדובר במשחק חתול ועכבר קלאסי. Anthropic מוסיפה סימני מים לטובת שקיפות, מפתחים בונים כלים להסרתם לטובת פרטיות ונוחות, והמשתמשים תקועים באמצע עם שאלות של אתיקה, יעילות ואמון.