ידיעות בינה מלאכותית בנושא WATERMARK
Google פותחת לציבור את כלי ה-SynthID לבדיקת תוכן שנוצר ב-AI, לאחר שסימנה באמצעותו יותר מ-180 מיליארד תמונות וסרטונים. הכלי, שזמין כעת באנגלית ברחבי העולם, מאפשר לזהות אם תוכן נוצר באמצעות מודלי AI של גוגל או של שותפותיה, כמו OpenAI ו-Nvidia. כך תוכלו לוודא את האותנטיות של התכנים ברשת.
Anthropic מטמיעה סימני מים בכל הטקסטים ש-Claude מייצר, גלובלית — לא מרצון אלא בגלל חוק ה-AI האירופי. השיטה מבוססת על טכניקה של Google, אבל מוגבלת לטקסטים ארוכים ומציגה רק סבירות, לא ודאות. מחקר מראה שאנשים לא מזהים טקסט AI וששחקנים מתוחכמים יעקפו כל סימן שניתן לזיהוי.
Anthropic החלה להטמיע סימני מים בלתי נראים בפלט של מודלי Claude כדי לציית לתקנות ה-AI Act של האיחוד האירופי. המהלך עורר מחלוקת חריפה, עם חששות לפגיעה באיכות הכתיבה והתפשטות מהירה של כלים לעקיפת הסימנים — מה שמראה שהמאבק בין שקיפות לחופש השימוש רק מתחיל.
גוגל הודיעה שמשתמשים יוכלו להסיר סימני מים גלויים מתמונות, סרטונים ושירים שנוצרו באמצעות AI, בעוד שסימני מים בלתי נראים כמו SynthID ומטא-נתונים של C2PA יישארו. המהלך, שמיישר קו עם המדיניות של ChatGPT, מתרחש ברקע תקנות חדשות באיחוד האירופי שדורשות שקיפות, ומשפיע על האופן שבו נזהה תוכן AI ברשת.
חוק השקיפות של קליפורניה בתחום ה-AI נכנס לתוקף היום, ומחייב חברות כמו OpenAI, גוגל ו-Anthropic לסמן תוכן שנוצר על ידי בינה מלאכותית באמצעות תגיות מטא-דאטה. OpenAI הודיעה שתקים כלי סימון מים למשתמשים. החוק, שנועד להילחם בפייקים ובהונאות, יחול גם על פלטפורמות מדיה חברתית מינואר 2027, והוא מתואם עם רגולציה דומה באיחוד האירופי.
ה-AI Act של האיחוד האירופי נכנס לשלב האכיפה: החל מ-2 באוגוסט, חברות חייבות לסמן תוכן שנוצר ב-AI. קנסות של עד 15 מיליון אירו או 3% מהמחזור מוטלים על מפרות. בנוסף, הוקמה יחידה מיוחדת של 38 אנשי מקצוע בבריסל, שתבחן מודלים מראש ותפקח על השוק.
