PowerSchool מגן על מיליוני תלמידים עם מערכת סינון תוכן AI מבוססת Amazon SageMaker
PowerSchool פיתחה מערכת סינון תוכן AI מותאמת לחינוך באמצעות פינטון של מודל Llama 3.1 8B ב-Amazon SageMaker. המערכת משיגה 93% דיוק בזיהוי תוכן מסוכן כגון בריונות או פגיעה עצמית, עם פחות מ-3.75% התרעות שווא. הפתרון מאזן בין בטיחות התלמידים לבין הצורך בשיח אקדמי פתוח.
האיזון העדין בין למידה לבטיחות בחינוך הדיגיטלי
PowerSchool, ספקית ענקית של פתרונות תוכנה ל-K-12 המשרתת מעל 60 מיליון תלמידים ב-90 מדינות, השיקה את PowerBuddy™ - עוזר בינה מלאכותית המשולב במערכות החינוך שלה. האתגר המרכזי: פיתוח מערכת סינון תוכן שתבחין בין דיונים אקדמיים לגיטימיים לתוכן מזיק.
האתגר: פתרונות סינון סטנדרטיים שוקלו בתחילה, אך התגלו כלא מספקים:
- חוסר יכולת להבחין בין לימוד על נושאים היסטוריים רגישים (כמו השואה) לבין תוכן אלים אמיתי
- צורך בזיהוי איומים כמו בריונות רשת, פגיעה עצמית או תכנים פוגעניים ספציפיים לסביבות חינוכיות
הפתרון הטכני:
- פינטון (Fine-tuning) של מודל Llama 3.1 8B באמצעות Amazon SageMaker JumpStart
- שימוש בטכניקת Low Rank Adaptation (LoRA) לאימון יעיל
- ארכיטקטורת פרודקשן כוללת תהליך הכנת נתונים ב-Amazon S3, ניהול מודלים ממוחשבים, ופידבקים לשיפורים עם AWS API Gateway
תוצאות מבחני הביצועים:
- 93% דיוק בזיהוי תוכן מזיק
- פחות מ-3.75% התרעות שגויות על תוכן לגיטימי
- זמן תגובה ממוצע: 1.5 שניות גם בעומסי שיא
"הטכנולוגיה שלנו מבוססת על Amazon SageMaker AI מאפשרת למנהלי בתי ספר לקבל התרעות מיידיות על תוכן מסוכן, בעוד תלמידים יכולים להמשיך דיונים אקדמיים מורכבים ללא הפרעה", מסבירה גייטרי רנגרג'ן, מנהלת מדעי הנתונים של PowerSchool.
מפת דרכים לעתיד
- שימוש ב-SageMaker AI multi-adapter inference לפיתוח פתרונות ייעודיים נוספים בתחום החינוך
- תכנון מודלי Small Language Models (SLMs) יעילים יותר לזיהוי איומים ספציפיים
- אופטימיזציית עלויות על ידי שימוש ב-NVIDIA A10G GPUs מסוג ml.g5.12xlarge
כלי סינון התוכן המתקדם של PowеrSсhool כבר מיושם ב-500 מחוזות חינוך ומשרת מעל 4.2 מיליון תלמידים, ומהווה דוגמה לאימוץ AI אחראי במערכת החינוך.
מקורות