זיכרון ה-AI נשאר עם התלמידים — ובתי הספר לא יכולים למחוק אותו

תלמיד תיכון מספר ליועץ קריירה מבוסס AI שהוא רוצה לנהל את החווה של אביו. שנתיים אחר כך, המידע הזה רודף אותו למכללה, שם מערכת AI אחרת משתמשת בו כדי לעצב המלצות על המסלול האקדמי שלו. התסריט ההיפותטי הזה, שהוצג בוובינר לאחרונה, חושף בעיה מתהווה: מה קורה לכל מה שמערכות ה-AI זוכרות?

זיכרון של AI, כפי שמסביר מאט ג'י, מנהל תוכניות נתונים ב-Gates Foundation, הוא מידע שמערכת יודעת על תלמיד מסוים ומשתמשת בו כדי להנחות אינטראקציות עתידיות. ״כשאני שומע הורה שואל, 'מה הכלי הטכנולוגי הזה יודע על הילד שלי?', הוא בעצם שואל שאלה על זיכרון״, הוא אומר. היכולת הזו הופכת AI לחרב פיפיות בחינוך: אותה המשכיות שמאפשרת למערכת לבנות על ההתקדמות של תלמיד יכולה גם לשמר מידע מיושן, לא רצוי או שגוי. ״אם ההתקדמות של תלמיד לא נעה איתו מכלי אחד למשנהו, מכיתה אחת לשנייה, מבית ספר אחד למשנהו, הוא לפעמים צריך להתחיל מחדש״, מציין ג'י. ״אבל הצד השני הוא שהרשומה הזו מכילה דברים שהוא לא רוצה שיהיו שם, או אי-הבנות לגבי מי שהוא, וזה עלול לעכב אותו״.

העניין מחמיר כשנכנסות לתמונה מערכות AI עם יכולות ״אג'נטיות״ — כאלה שפועלות בשם המשתמש ולא רק מספקות תשובה, כפי שמתאר אנדרו רייס, מנכ״ל Education Analytics. החשש שלו: מידע שנאסף על תלמיד במערכת אחת עלול לעבור למערכת אחרת ולעצב המלצות או פעולות עתידיות. רייס דן בדוגמה של תלמיד שה-AI זוכר שהיה לו קושי בשברים מעורבים, אך מאוחר יותר הוא שולט בחומר — הזיכרון עלול להיות מיושן.

רשויות בתי הספר תוקפות דרך הרכש

בתי ספר כבר מתמודדים עם ״IT בצללים״ — יישומים שמורים, אנשי צוות או תלמידים מאמצים בלי תהליך רישוי או אבטחה רשמי, כפי שמציינת ונסה ורן, מנהלת המידע הראשית ב-Department of Public Instruction בצפון קרוליינה. ״לבתי הספר שלנו יש מאות מוצרים שהם אולי אפילו לא יודעים שיש בהם AI״, היא אומרת. ״אימוץ כלי AI לא יכול להתבסס על אמון; אנחנו חייבים לראות בזיכרון של AI קטגוריית נתונים חדשה״.

ורן מציינת שהמדינה עורכת ביקורות סדירות על מוצרים, ושהיא מסרבת לרכוש אותם כאשר היצרנים אינם עומדים בתקנים. ״ההסכם שלנו הוא הכלי שאנחנו משתמשים בו״, היא אומרת. ״החוקים שלנו מגבילים שימוש בנתוני תלמידים לפרסום מותאם אישית, לבניית פרופילים שאינם קשורים ל-K-12 או למכירה ולהשכרה של מידע״. אבל גם במדינות מתקדמות נותרות שאלות לא פתורות: האם זיכרון של AI צריך להיות מוגדר במפורש כאלמנט נתונים? איך מטפלים בהסקות שנוצרו? ואיך, בעצם, אפשר למחוק מידע?

מה באשר לחוקים הפדרליים?

רייס מציין שרכש הוא אחד המנגנונים העיקריים להחלת ממשל פרטיות במערכת החינוך בטווח הקצר, אך מוסיף שחוקי פרטיות פדרליים קיימים, כמו FERPA ו-COPPA, אינם מתחשבים באופן מלא בטכנולוגיה החדשה. ״אנחנו צריכים יכולת לערוך חלק מהנתונים האלה לפני שהם מועברים למערכות אחרות״, טוענת ורן. ״אם תלמיד שולט בסופו של דבר בחומר, הזיכרון צריך לשקף את זה״.

הצד השני של המטבע

העלייה בשימוש ב-AI בחינוך אינה רק סיכון. כפי שציין ג'י, היא יכולה לעזור לשמר את ההתקדמות של תלמידים. אבל כדי לשלוט במצב, בתי ספר צריכים להיות מסוגלים לראות מה קורה בסביבה שלהם. ״אי אפשר לשלוט במה שאי אפשר לראות״, מציינת ורן. ״לפני שבית ספר יכול ליצור מדיניות AI משמעותית, הוא צריך להבין מה כבר מתרחש״.

בתי ספר לא צריכים לנסות לבנות ספר חוקים לכל כלי AI — זה לא בר-קיימא, שכן AI משתנה במהירות. במקום זאת, הם צריכים לגבש שאלות שיחולו על כלים שונים: לאיזה מידע הם יכולים לגשת? איזה מידע משתמשים יכולים להזין? האם הם מתחברים לחשבונות Google Workspace או Microsoft 365?

המסקנה

בסופו של דבר, בתי הספר צריכים לתת למורים מקום להתנסות בבטחה — תוך מתן הנחיות מעשיות לגבי מה לא להזין למערכת AI ומתי נדרשת בדיקה של מחלקת ה-IT. הזיכרון של AI כאן כדי להישאר, והרשויות חייבות להתאים את עצמן לפני שהפריצה הבאה בעזרת AI תהיה במרחק של ימים ספורים.