Microsoft מציגה סטנדרט AI עם שיניים משפטיות לבתי ספר
Microsoft ואיגודי מורים בארה״ב השיקו סטנדרט לאומי לאבטחת AI בבתי ספר, שיאפשר הגנה משפטית על תלמידים ומשפחות. המהלך מגיע לאחר איסורים בניו יורק ובלוס אנג׳לס, וכולל איסור על אימון מודלים על נתוני תלמידים ופיקוח אנושי – עם סנקציות חוזיות אמיתיות.
אחרי חודשים של חששות, Microsoft לא מחכה לממשלה הפדרלית – אלא משתפת פעולה עם איגודי מורים ליצירת סטנדרט לאומי לאבטחת AI בבתי ספר, עם סנקציות חוזיות אמיתיות.
אתמול Microsoft, יחד עם American Federation of Teachers (AFT) והשלוחה הניו־יורקית שלה, United Federation of Teachers (UFT), הכריזו על ה-National AI Safety and Privacy Standard. מדובר במסמך שאינו חוק – אבל הוא מחייב חוזית. כל מחוז בית ספר בארה״ב יכול להוסיף את התנאים להסכם שלו עם Microsoft, מה שהופך אותם לאכיפים משפטית, עם אפשרות לבטל חוזים ולתבוע פיצויים.
אז מה בעצם קרה כאן?
ההסכם מגיע שבוע לאחר שניו יורק ולוס אנג׳לס הטילו מורטוריומים של שנה על שימוש ב-AI ובמסכים בבתי ספר ציבוריים. יותר מ-250 מומחים וקבוצות דרשו הקפאה כזו באפריל, מחשש לפרטיות ילדים ולבטיחותם. ועכשיו, Microsoft והאיגודים הולכים קדימה – לא ממתינים לחוק, אלא כותבים אותו דרך החוזים.
מה הסטנדרט כולל?
ההסכם עוסק בעשרה עקרונות מרכזיים, שכולם חוזיים וניתנים לאכיפה:
- חברות הטכנולוגיה לא יכולות לאמן מודלים של AI על נתוני תלמידים או מורים.
- איסור על מעקב אחר תלמידים – ללא ניטור תמידי.
- החלטות "בסיכון גבוה" חייבות פיקוח אנושי – AI לא מקבל החלטות לבד.
- חברות חייבות לחשוף כיצד הכלים עובדים, בשפה ברורה למשפחות.
- איסור על AI companions לתלמידים.
- Microsoft מתחייבת להגביל את כמות הנתונים שהיא אוספת מלכתחילה.
בתי ספר שמוסיפים את ההסכם להסכמים קיימים או חדשים – וזה אפשרי כבר מנובמבר – יכולים לבטל חוזים ולתבוע פיצויים אם אחת החברות מפרה אותם. לדברי נשיאת AFT, Randi Weingarten: "יצרנו הסכם פרטיות חזק עם שיניים אמיתיות, כי אף אחד אחר, כולל הממשלה הפדרלית, לא עשה את העבודה."
תגובות וקונטקסט
נשיא Microsoft, Brad Smith, ציין שהסטנדרט "מציב סף גבוה לפרטיות ילדים ולבטיחות AI" ושהוא יורחב לכל מחוז בית ספר בארה״ב. שני הצדדים גם קוראים לחברות כמו OpenAI ו-Anthropic להצטרף.
הקונטקסט רחב יותר: בבתי ספר כמו Cleveland Metropolitan School District, תלמידים כבר מוצאים דרכים לעקוף מדיניות AI – למשל, משתמשים ב-ChatGPT כ-"study buddy שעושה את שיעורי הבית עבורך", כפי שתלמיד אחד תיאר. וזאת למרות שהמדיניות אוסרת על הגשת עבודות AI כיצירה מקורית.
מה זה אומר לנו, בעולם ההייטק?
כאנשי טכנולוגיה, אנחנו יודעים שפרטיות נתונים היא קריטית, במיוחד עם ילדים. הסטנדרט הזה מראה שחברות גדולות יכולות לקחת יוזמה – אף על פי שהממשלה האמריקאית לא מסדירה. זה עשוי להשפיע על איך שאנחנו חושבים על שימוש ב-AI בחינוך כאן בארץ, אם כי בינתיים זה סיפור אמריקאי מובהק.
שורה סופית: הממשלה האמריקאית אולי תתעורר, אבל עד אז – לפחות יש חוזים עם שיניים.