האיחוד האירופי מתחיל לקנוס חברות שלא מסמנות דיפפייקים

החל מהיום (ראשון), האיחוד האירופי נכנס לשלב האכיפה של ה-AI Act — והחוק הראשון בעולם שמחייב לסמן תוכן שנוצר על ידי בינה מלאכותית הופך מנייר למציאות. אם אתם מפעילים שירות דיגיטלי כלשהו באירופה, או משווקים ללקוחות אירופיים, אתם חייבים עכשיו לומר ללקוחות שלכם: זה AI, לא בן אדם.

מה בדיוק נדרש?

הפרק הרלוונטי ב-AI Act מתייחס ל"תוכן סינתטי" — תמונות, אודיו, וידאו וטקסט שנוצרים או מעובדים על ידי AI ונראים אותנטיים. חברות שמספקות מודלים כמו OpenAI, Anthropic ומקבילותיהן, וגם עסקים שמשתמשים במודלים אלה, חייבים לוודא שהמשתמש יודע שהוא מתמודד עם AI. בפועל זה אומר: סימון ברור על צ'אטבוטים, ווטרמרק על תמונות וסרטונים, או כל אמצעי אחר שמאפשר זיהוי.

החוק חל על מערכות AI חדשות שמגיעות לשוק האיחוד מ-2 באוגוסט, ואילו מערכות קיימות קיבלו הארכה קצרה — אבל לא לנצח. הנציבות האירופית, שנחשבת עכשיו לרגולטור ה-AI החזק בעולם, מסוגלת להטיל קנס של עד 15 מיליון אירו או 3% מהמחזור השנתי של החברה — הסכום הגבוה מבין השניים. מי שחושבים שזה "עוד רגולציה" מוזמנים לחשוב פעמיים: הקנס הזה הוא לא דמי רצינות, הוא תלוי בגודל החברה, ולחברות טק גדולות הוא יכול להגיע למאות מיליונים.

למה דווקא עכשיו?

ה-AI Act נחקק ב-2024, אבל רובו נכנס לשלבים בפועל רק עכשיו. הדחיפה הגיעה מהשימוש הגובר בדיפפייקים בבחירות, בקמפיינים מטעים ובסרטונים פוגעניים. כבר ראינו שורה של מקרים — מהקלטות מזויפות של פוליטיקאים ועד סרטונים סאטיריים שעברו את הגבול. עם היכולת של כל אחד לייצר תוכן מציאותי, האיחוד החליט שהגיע הזמן לשחקנים הגדולים לקחת אחריות.

ביום שישי האחרון הקימה הנציבות האירופית צוות ייעודי של 38 אנשי מקצוע, במסגרת "המשרד לאינטליגנציה מלאכותית". התפקיד שלהם לא יהיה רק לבדוק תלונות — אלא לבחון מודלים לפני שחרור, לעקוב אחר שימוש לרעה ולטפל בהפרות ספציפיות, כמו חשיפת תכנים מיניים פוגעניים או איומי סייבר על תשתיות.

האתגר הטכני: ווטרמרק אפשר להסיר

החוק נשמע נחמד על הנייר, אבל המציאות היא קצת יותר מורכבת. כדי שווטרמרק יוכל לעבוד, צריך לשלב אותו בתוך המודל או במטא-דאטה של הקובץ. הבעיה: אפשר להסיר ווטרמרק בקלות יחסית עם כלים פשוטים, או פשוט לצלם מסך ולשלוח קדימה. זה לא פתרון של "יהיה בסדר" — זה האתגר שמנהלי המודלים עובדים עליו בפועל. החוק גם דורש שצרכנים יוגנו מ"שימוש מטעה" במערכות זיהוי רגשות או סיווג ביומטרי — דבר שמעלה שאלות על פרטיות בסיסית.

אין פה תשובה קסומה. הוועדה מצפה שהתעשייה תמצא פתרונות, וזה אומר שתראו יותר ויותר סטנדרטים חדשים. OpenAI כבר פרסמה פוסט רשמי שבו היא מתארת איך היא מגבירה את המאמצים, כולל פיתוח כלים לאימות מוצא של תוכן. אבל זה לא יפתור הכול — במיוחד כשמודלים קטנים יותר לא מחויבים בכל אותם הכללים (לפחות בשלב זה).

"רגע הקוקיז" של ה-AI

מי שעובד בהייטק יודע: ה-Cookie Banner שקיבלנו לפני עשור, זה הרגע שבו GDPR הפך משאלה אקדמית למטרד יומיומי. עכשיו, כשאירופה מתחילה לאכוף את חוק ה-AI, רבים בתעשייה מתחילים לדבר על "רגע הקוקיז" של ה-AI. הענקיות, וגם חברות הזנק, יצטרכו להציג ללקוחותיהן סימונים, הודעות הבהרה ומסכים שמסבירים שהם מדברים עם בוט. התחזית: האתרים יהפכו לפחות זורמים, ואנשים ילמדו להבחין בין "אמיתי" ל"מכונתי" תוך כדי גלישה.

אבל יש גם צד שני: ה-AI Act לא מסתפק בסימון. הוא נותן לנציבות כוח לבחון מודלים מראש, לפסול אותם מהשוק האירופי ולחייב שינויים בארכיטקטורה. אין פלא שאנחנו רואים את הדיונים בין ארה״ב לאירופה רק מתחממים. גוגל כבר ספגה קנס של מיליארד דולר ביולי בגלל העדפת שירותים עצמיים, ונשיא ארה״ב איים בתגובה. כעת, הכוח של הנציבות על מודלים שפותחו מחוץ לאיחוד רק מתרחב — וזה צפוי לגרום לחיכוכים נוספים.

מה זה אומר לכם?

אם אתם מפתחים אפליקציה שמשתמשת ב-API של OpenAI או Anthropic לשירות לקוחות באירופה — אתם חשופים לחוק. גם אם החברה שלכם לא חתומה על ההסכם, כל מוצר שמדבר עם משתמשים אירופיים חייב לעמוד בכללים. ההגדרה רחבה: לא רק צ'אטבוטים, אלא גם תוכן שיווקי שנוצר אוטומטית, סימון תמונות במוצר ואפילו אלגוריתמים שממליצים על תוכן.

בפועל זה אומר שצוותי המוצר שלכם יצטרכו לחשוב איך מממשים "שקיפות" — לא רק כדי לעמוד בחוק, אלא כי המשתמשים יתחילו לדרוש את זה. אותו דבר כמו שהאתרים נאלצו להציג "ניהול קובצי cookie" — עכשיו הם יצטרכו להציג הודעה בנוסח: "אנחנו משתמשים ב-AI ליצירת התוכן הזה".

סוף דבר — זה רק ההתחלה

החוק הזה הוא הצעד הראשון של האיחוד האירופי לקחת את הפיקוח על AI לידיים. יש כבר שפע של הצעות חוק במדינות כמו ניו יורק וקליפורניה, שמתמקדות בשקיפות בשיחות עבודה וגיוס — סימן שהרגולציה מתפשטת. אבל אל תטעו: הבעיה האמיתית של הווטרמרק והסימון היא לא טכנית, היא מהותית — עד כמה אנחנו באמת יכולים לסמוך על מה שאנחנו רואים ושומעים? ובעידן שבו המודלים משתפרים כל כמה חודשים, היכולת להבחין בין טבעי למלאכותי הולכת ונעשית קשה יותר.

ובכן, הממשלות עושות כמיטב יכולתן — או לפחות מנסות. אבל אם תשאלו אותי, הדבר הבא שאולי יאתגר את התעשייה הוא לא רק סימון של מה שנוצר ב-AI, אלא גם סימון של מה שנוצר על ידי בני אדם. אירופה כבר הוכיחה שהיא יודעת ליצור מסך הסכמה — רק צריך לקוות שהמסך הזה לא יהפוך לעוד אתר שלא קוראים בו. 😉