PowerSchool מגן על מיליוני תלמידים עם מערכת סינון תוכן AI מבוססת Amazon SageMaker

האיזון העדין בין למידה לבטיחות בחינוך הדיגיטלי

PowerSchool, ספקית ענקית של פתרונות תוכנה ל-K-12 המשרתת מעל 60 מיליון תלמידים ב-90 מדינות, השיקה את PowerBuddy™ - עוזר בינה מלאכותית המשולב במערכות החינוך שלה. האתגר המרכזי: פיתוח מערכת סינון תוכן שתבחין בין דיונים אקדמיים לגיטימיים לתוכן מזיק.

האתגר: פתרונות סינון סטנדרטיים שוקלו בתחילה, אך התגלו כלא מספקים:

• חוסר יכולת להבחין בין לימוד על נושאים היסטוריים רגישים (כמו השואה) לבין תוכן אלים אמיתי
• צורך בזיהוי איומים כמו בריונות רשת, פגיעה עצמית או תכנים פוגעניים ספציפיים לסביבות חינוכיות

הפתרון הטכני:

• פינטון (Fine-tuning) של מודל Llama 3.1 8B באמצעות Amazon SageMaker JumpStart
• שימוש בטכניקת Low Rank Adaptation (LoRA) לאימון יעיל
• ארכיטקטורת פרודקשן כוללת תהליך הכנת נתונים ב-Amazon S3, ניהול מודלים ממוחשבים, ופידבקים לשיפורים עם AWS API Gateway

תוצאות מבחני הביצועים:

• 93% דיוק בזיהוי תוכן מזיק
• פחות מ-3.75% התרעות שגויות על תוכן לגיטימי
• זמן תגובה ממוצע: 1.5 שניות גם בעומסי שיא

"הטכנולוגיה שלנו מבוססת על Amazon SageMaker AI מאפשרת למנהלי בתי ספר לקבל התרעות מיידיות על תוכן מסוכן, בעוד תלמידים יכולים להמשיך דיונים אקדמיים מורכבים ללא הפרעה", מסבירה גייטרי רנגרג'ן, מנהלת מדעי הנתונים של PowerSchool.

מפת דרכים לעתיד

• שימוש ב-SageMaker AI multi-adapter inference לפיתוח פתרונות ייעודיים נוספים בתחום החינוך
• תכנון מודלי Small Language Models (SLMs) יעילים יותר לזיהוי איומים ספציפיים
• אופטימיזציית עלויות על ידי שימוש ב-NVIDIA A10G GPUs מסוג ml.g5.12xlarge

כלי סינון התוכן המתקדם של PowеrSсhool כבר מיושם ב-500 מחוזות חינוך ומשרת מעל 4.2 מיליון תלמידים, ומהווה דוגמה לאימוץ AI אחראי במערכת החינוך.