בית ספר בניו יורק עוצר פיילוט של רובוט AI בכיתה

"רובוט שבנוי על ידי חברה שקשורה לבובות מין — אין לו מקום בכיתות שלנו"

המשפט הזה, של נשיאת איגוד המורים במדינת ניו יורק Melinda Person, מסכם את מה שקרה בשבועיים האחרונים במחוז בתי ספר קטן במערב ניו יורק. מחוז Salamanca City Central School District, שנמצא על שטח של אומת Seneca, רכש לאחרונה רובוט humanoid בשם Sally תמורת כמעט 60 אלף דולר. התוכנית הייתה לשים אותו בכיתת תיכון כעוזר הוראה מונע AI לתלמידים שלומדים רובוטיקה וטכנולוגיה.

בסוף השבוע שעבר, אחרי סערה ציבורית — המחוז הודיע שהוא משהה את הפיילוט.

מה Sally אמורה הייתה לעשות?

הרובוט, עם שיער חום ארוך וגוף עליון נייח עם הבעות פנים, תוכנן לפעול כמערכת סגורה, זמינה 24/7, וירטואלית לתלמידים. הרעיון, כפי שהציג אותו מנהל המחוז Mark Beehler, הוא שתלמיד שמתקשה בתכנות Arduino יוכל פשוט לשאול את Sally — והיא תסביר. מעבר לזה, התלמידים היו אמורים ללמוד איך מתחזקים רובוט כזה, איך מעדכנים אותו בתוכן מאושר, ואיך מאתרים תקלות.

Sally מיוצרת על ידי Realbotix, חברה מבוססת טורונטו שעד לא מזמן קראו לה Tokens.com, ועסקי הליבה שלה היו קריפטו.

מקריפטו לבובות מין לרובוטים humanoid

פה הסיפור נהיה מעניין — ומעורר מחלוקת. Realbotix רכשה באפריל 2024 תמורת 16.7 מיליון דולר חברה בשם Simulacra, שבסיסה בלאס וגאס וידועה בייצור בובות מין היפר-ריאליסטיות. Simulacra פועלת דרך חברת בת בשם Abyss Creations.

Realbotix טוענת שאין קשר בין מוצרי החברה האחות לבין Sally או תוכנית הפיילוט בבית הספר. אבל עבור איגוד המורים במדינת ניו יורק (NYSUT), זה לא משנה — מבחינתם, העובדה שהרובוט נבנה על ידי חברה עם קשרים כאלה פוסלת אותו מלהיכנס לכיתה.

מי התנגד, ולמה?

הרשימה ארוכה:

• איגוד המורים NYSUT — טען שהפיילוט הוכנס בלי שיתוף הקהילה, ושהטכנולוגיה עלולה לפגוע בחוויית הלמידה. NYSUT גם פנה לנציבת החינוך של מדינת ניו יורק, Betty A. Rosa, בדרישה לחוקק כללים אחידים לגבי שימוש ב-AI בבתי ספר ציבוריים ברחבי המדינה.

• פקידי חינוך ממלכתיים — נפגשו עם הנהלת המחוז, ותוך 24 שעות מהפגישה הפיילוט הוקפא.

• תושבי האזור הילידים — חלקם טענו שהצבת רובוט כזה על שטח של אומת Seneca היא "חירשת תרבותית" (culturally tone deaf).

• הורים ומורים מקומיים — חששו מהאופן שבו נתוני התלמידים ישמשו, ומאיך שהטכנולוגיה תשפיע על הדינמיקה בכיתה.

מה קורה עכשיו?

נכון לעכשיו, הפיילוט מושהה. המחוז עובד על "הסכמי פרטיות נתונים משופרים" מול פקידי החינוך של המדינה, וממשיך לשמוע את הקהילה. Sally יושבת כנראה איפשהו במחסן, מחכה.

מה שמעניין בסיפור הזה הוא לא רק הרובוט עצמו — אלא מה שהוא מייצג. ההחלטה של המחוז לשלם 60 אלף דולר על רובוט AI לימודי התקבלה על ידי הנהלת המחוז, בלי דיון ציבורי משמעותי, בלי שיתוף המורים, ועם מעט מאוד שקיפות לגבי מי החברה שמספקת את המוצר. כשתלמידי התיכון של Salamanca היו צריכים ללמוד רובוטיקה ו-AI, מישהו חשב שהפתרון הוא לקנות רובוט humanoid מחברה שזה עתה עברה מקריפטו לבובות מין — במקום, למשל, להשקיע את הכסף בהכשרת מורים או בציוד מעבדה.

בסופו של דבר, Sally הפכה לדוגמה מצוינת למשהו שקורה הרבה לאחרונה: טכנולוגיית AI מוכנסת למערכות חינוך בלי הסכמה ציבורית, בלי שקיפות, ועם יותר מדי שאלות פתוחות על פרטיות ובטיחות. הפעם, לפחות, מישהו עצר את זה בזמן.