חוק חדש באירופה: צ'אטבוטים יחויבו לגלות שהם AI

אתם מדברים עם בוט. החוק אומר שמישהו אמור לספר לכם את זה

עוד כשנתיים, ב-2 באוגוסט 2026, נכנס לתוקף אחד הסעיפים המדוברים ב-EU AI Act: כל מערכת AI שמיועדת לתקשר ישירות עם אנשים תחויב ליידע אותם שהם מדברים עם AI — אלא אם כן הדבר "ברור מאליו" לאדם סביר. נשמע פשוט? ממש לא. הסעיף הזה, שמספרו Article 50, הוא אחד הרגולציות המעניינות ביותר שיצאו מהחקיקה האירופית בתחום הבינה המלאכותית — וגם אחד המעורפלים ביותר. ואם אתם עובדים על מוצר AI שיוצא לשוק האירופי, כדאי שתתחילו לחשוב על זה עכשיו.

אז מה בעצם אומר החוק?

Article 50 של ה-EU AI Act קובע חובת שקיפות (Transparency Obligations): ספקים של מערכות AI שמיועדות לתקשר ישירות עם בני אדם חייבים לתכנן ולפתח אותן כך שהמשתמשים יידעו שהם מתקשרים עם מערכת AI. זה חל על צ'אטבוטים, עוזרים וירטואליים, וכל מערכת שמשתמשת במודל AI גדול (LLM) כדי לייצר שיחה.

אבל רגע — יש יוצא מן הכלל. אם "אדם סביר, מיודע, ערני וזהיר, בהתחשב בנסיבות ובנסיבות השימוש" היה מבין לבד שהוא מדבר עם AI, אז אין חובת גילוי. זה מה שנקרא במשפט האנגלי "reasonable person" provision — מושג משפטי עם היסטוריה ארוכה שמגיע עד למאה ה-19.

ומה עם יוצאים מן הכלל נוספים? מערכות AI שמאושרות על פי חוק לגלות, למנוע, לחקור או להעמיד לדין עבירות פליליות — פטורות מחובת הגילוי, כל עוד הן לא פתוחות לציבור הרחב.

למה זה בעייתי? כי אף אחד לא באמת יודע איך ליישם את זה

פה מתחיל הבלגן. החוק לא מפרט איך ליידע את המשתמשים, מתי, איפה במסך, או באיזו תדירות. אין הנחיות טכניות, אין פורמט מוגדר, אין סטנדרטיזציה. אם נתרגם את זה לרמות החמרה רגולטורית (כפי שמציעים מומחים בתחום), אנחנו מדברים על רמה L2-01 — מינימלית ופתוחה לחלוטין.

מה זה אומר בפועל? שכל חברת AI יכולה לבחור איך ליישם את הגילוי. אחת תשים הודעה קטנה בתחתית המסך. אחרת תציג חלון קופץ בכל תחילת שיחה. שלישית תשלב את הגילוי בתוך ה-system prompt. הרביעית תטען שה-AI שלה כל כך מתקדם ש"ברור מאליו" שהוא AI — ולכן בכלל לא צריכה גילוי.

וזה בדיוק הטריק: סעיף ה-"reasonable person" הוא פרצה שדרכה אפשר להעביר משאית. חברת AI יכולה לטעון שהמוצר שלה כל כך מתקדם וברור שהוא AI, שכל משתמש סביר יבין את זה לבד. מי יכריע? בתי המשפט. ומתי? כנראה רק בעוד שנים, אחרי שיעברו מספיק תיקים משפטיים כדי לקבוע תקדימים.

האמריקאים שם גם — וגם הם לא יודעים מה הם רוצים

בארצות הברית אין חוק פדרלי מקיף ל-AI. מה שיש זה פסיפס של חוקים מדינתיים, ויותר מ-1,000 הצעות חוק שנמצאות בשלבי חקיקה שונים. כל מדינה עושה את שלה: קליפורניה העבירה את SB 243 שדורש "clear and conspicuous notification" אם אדם סביר היה מתבלבל וחושב שהוא מדבר עם בן אדם. אבל גם שם, ה-"reasonable person" נכנס לתמונה.

התוצאה? כאוס רגולטורי. חברה שמוכרת מוצר AI בכל 50 המדינות צריכה לנווט בין חוקים שונים, מנוסחים אחרת, עם הגדרות סותרות. מה מותר בקליפורניה אסור בניו יורק. מה שהמחוקק בטקסס התכוון אליו שונה ממה שהמחוקק באילינוי ניסה לנסח. ומדינות חדשות מצטרפות כל הזמן — לפעמים מעתיקות ניסוחים ממדינות אחרות, לפעמים ממציאות חדשים.

מה חברות AI עושות עם זה בפועל?

פה נכנס החלק הטכני, וזה רלוונטי במיוחד למי מכם שעובדים על מוצרי AI. כשמחוקק מעביר חוק מעורפל, חברת AI נאלצת להפוך לפרשן משפטי. היא צריכה לקחת חוק שנכתב בשפת בני אדם — עם כל העמימות שטבועה בשפה טבעית — ולהמיר אותו לקוד.

בפועל, זה אומר:

• שינויים ב-system prompt — הנחיות העל שמנחות את המודל איך להתנהג
• הוספת שכבות מדיניות (policy layers) בתוך הארכיטקטורה
• עדכוני reinforcement learning כדי שהמודל ילמד לפעול לפי החוק
• שינויי safety classifiers — מודלים קטנים שמוודאים שהפלט תקין
• קונפיגורציה של retrieval filters ו-routing למודלים מומחים
• עיבוד מחדש של output לפני שהוא מגיע למשתמש

כל אלו הופכים ליישום הטכני של פרשנות משפטית. שכבה נסתרת של ממשל AI שהמשתמש לא רואה. המשפטנים קוראים לזה "law is code, and code is law" — החוק הוא קוד, והקוד הוא חוק.

משתמשים מתבלבלים — וזה בעיה אמיתית

תתארו לעצמכם שמפתח אחד מפרש את החוק בצורה מחמירה: הצ'אטבוט שלו מסרב לדון בנושאי בריאות הנפש. מפתח אחר מפרש את אותו חוק בצורה מקלה יותר: הצ'אטבוט שלו מדבר על בריאות הנפש בחופשיות, כל עוד הוא לא נותן ייעוץ ישיר.

שני מוצרים. אותו חוק. התנהגות שונה לגמרי.

ומה המשתמש עושה? הוא מגלה שאפשר לעבור בין צ'אטבוטים שונים כדי למצוא את מי שמפרש את החוק בצורה שמתאימה לו. אחד מחמיר בחוק X ומגמיש בחוק Y. השני להיפך. המשתמשים מתחילים "לצאת לקניות" — עוברים מ-AI ל-AI כדי למצוא את ההתנהגות שהם מחפשים.

וזה לא רק עניין של נוחות. כשמוצר AI מסרב לבקשה בלי הסבר, המשתמש לא יודע למה. האם זה באג? האם זה מגבלת תוכן? האם יש חוק חדש שהוא לא שמע עליו? חברות AI מתלבטות אם להגיד למשתמשים שהסיבה להגבלה היא חוק — כי החוק עצמו לא מתייחס לשאלה הזו.

האם החוק הזה בכלל יעזור?

זה השלב שבו צריך לשאול שאלה לא נוחה: כמה אנשים באמת לא יודעים שהם מדברים עם AI?

אפשר לפרק את זה לשלוש שאלות:

1. איזה אחוז מהמשתמשים כיום לא יודעים שהם מתקשרים עם AI?
2. מתוכם, איזה אחוז נפגע מכך שהם לא יודעים?
3. מתוכם, איזה אחוז לא היה נפגע אם היו מקבלים הודעה שהם מדברים עם AI?

התשובה עלולה להיות: מעטים מאוד. ומעטים מתוכם. ומעטים עוד יותר מתוכם.

מצד שני, יש טענה הפוכה: גם אם אדם אחד נפגע, זה מספיק כדי להצדיק את החוק. ומעבר לכך, מודלים של AI הופכים כל כך מתקדמים בשיחה שקשה יותר ויותר להבחין — אז עדיף להתחיל עכשיו, לפני שהבעיה מחמירה.

מה קורה הלאה?

Article 50 נכנס לתוקף בעוד כשנתיים. זה נשמע הרבה זמן, אבל אם אתם בונים מוצר AI שנמכר באירופה — כדאי להתחיל להתכונן עכשיו. הנה כמה שאלות שכדאי לשאול את עצמכם:

• האם המוצר שלכם כבר כולל גילוי AI? אם כן, האם הוא עומד בתקן?
• איך תיישמו גילוי אם החוק לא מפרט פורמט?
• האם תסתפקו בפרשנות מינימלית, או תלכו על בטוח?
• מה תעשו אם מתחרה שלכם יפרש את החוק בצורה שונה?

במקביל, כדאי לעקוב אחרי הפסיקה. ברגע שתיקים ראשונים יגיעו לבתי משפט אירופיים, נתחיל להבין מה באמת התכוון המחוקק. עד אז — כולנו במרחב אפור.

בארצות הברית המצב דומה אבל פחות מסודר. אין חוק פדרלי, יש פסיפס מדינתי, והחקיקה מתקדמת בקצב מסחרר. חברות AI צריכות להתמודד עם מציאות שבה החוק משתנה ממדינה למדינה, לפעמים משבוע לשבוע.

שורה תחתונה

ה-EU AI Act מכריח חברות AI לשקף למשתמשים שהן AI. זה צעד חשוב בכיוון הנכון. אבל הניסוח המעורפל, פרצות ה-"reasonable person", וחוסר הסטנדרטיזציה הופכים את היישום לכאב ראש אמיתי. חברות AI הפכו לפרשנים משפטיים בעל כורחן, משתמשים מקבלים חוויות לא עקביות, ובסוף מי שיכריעו מה באמת החוק אומר יהיו בתי המשפט — בעוד שנים.

בינתיים, אם אתם מפתחים מוצר AI לאירופה — בנו צוות משותף של הנדסה ומשפטים. תצטרכו את שניהם.