סלמנקה הקפיאה את תוכנית רובוט-המורה

דמיינו לעצמכם חדר כיתה שבו, במקום מורה אנושי, ממתינה לתלמידים דמות רובוטית עם שיער כהה ויכולת לנהל שיחה. זו בדיוק הייתה התוכנית של מחוז סלמנקה סיטי סנטרל, בית ספר תיכון באזור כפרי של מדינת ניו יורק, השוכן על שטח של אומת Seneca. הם רכשו תמורת 57,590 דולר רובוט אנתרופומורפי בשם Sally מחברת Realbotix, ותכננו להפוך אותו ל"עוזר הוראה" עבור תלמידי רובוטיקה וטכנולוגיה.

אבל מהר מאוד התוכניות הללו נתקלו בקיר. מורים, הורים ופקידי חינוך מקומיים יצאו נגד הפיילוט, מה שגרם להשהייתו, לפחות כרגע.

מה בעצם אמורה הייתה Sally לעשות?

לפי מצגת שהציג המחוז, Sally הייתה אמורה להיות "מערכת סגורה", אבל זמינה וירטואלית 24/7 לתלמידים עם גישה, ולהציע אפשרויות למידה מותאמות אישית. מנהל בית הספר, מארק בילר, תיאר את זה כך: "מתקשים לתכנת לוח Arduino? אפילו לא יודעים מה זה לוח Arduino? תשאלו את Sally והיא יכולה להסביר." הרעיון היה לא רק להשתמש ברובוט ככלי למידה, אלא גם ללמד את התלמידים איך מתחזקים, מעדכנים ופותרי בעיות של מערכת כזו. מחוז סלמנקה היה עתיד להיות הראשון בארצות הברית שמפריש רובוט אנתרופומורפי ועוזר הוראה מבוסס AI.

למה זה עורר כזו התנגדות?

ההתנגדות באה מכמה כיוונים, וכולם נוגעים ללב של סוגיות שאנחנו בתעשיית ההייטק מכירים מקרוב: פרטיות, אמון ותדמית.

הדאגה הראשונה היא לפרטיות ואבטחת מידע. "אנחנו מאוד מודאגים מרקע החברה של Realbotix. אנחנו מודאגים מאוד מאבטחת התוכנה שהם מיישמים, ואם הנתונים יאוחסנו, איך הם ייאספו, אם יש יכולות הקלטה," אמרה לייסי פיבלד, נשיאת איגוד המורים של סלמנקה ומורה בבית הספר. בעולם שבו פרטיות הילדים היא ערך עליון, הכנסת כלי AI שמסוגל ל"אינטראקציה בזמן אמת" לתוך הכיתה העלתה שאלות קשות.

החשש השני, ואולי הבולט יותר, קשור ל"רקע" של החברה. Realbotix, שבסיסה בטורונטו, רכשה ב-2024 את חברת Simulacra מלאס וגאס תמורת 16.7 מיליון דולר. Simulacra ידועה בייצור בובות מין היפר-ריאליסטיות. דוברת איגוד המורים של ניו יורק, מלינדה פרסונ, סיכמה את התחושות החד-משמעיות: "רובוט שנבנה על ידי חברה הקשורה לבובות מין, אין לו מקום בכיתות שלנו." Realbotix מצידה טוענת שהחטיבה שמייצרת את הבובות (Abyss Creations) פועלת באופן עצמאי לחלוטין, ושהם נפרדים מתעשיית המבוגרים. אך הקשר התדמיתי כבר עשה את שלו.

מעבר לכך, התוכנית נתקלה בהתנגדות תרבותית. חלק מהתושבים הילידים האמריקנים המקומיים, בני אומת Seneca, ביקרו את היישום כ"חרש תרבותי" (culturally tone deaf).

מה קרה בפועל?

בסופו של דבר, הלחץ הציבורי עבד. ביום שישי האחרון פרסם המחוז הודעה בדף הפייסבוק שלו, ולפיה הפיילוט "מוקפא" בזמן שהם עובדים על "הסכמים משופרים להגנת פרטיות תלמידים" עם פקידי המדינה וממשיכים לפנות לקהילה. נציבת החינוך של המדינה, בטי רוסה, אמרה שגם לאחר פגישה עם נציגי המחוז, היא עדיין מודאגת מתפקידה של Sally בכיתה.

אז הנה לנו מקרה מבחן קלאסי: טכנולוגיה חדשה ומבטיחה (לכאורה) שפוגשת עולם עם הרבה יותר משתנים מאשר רק יכולת טכנית. זה לא סיפור על כישלון טכנולוגי, אלא על כישלון תהליכי. כאן לא היה מספיק שיתוף ציבור מראש, לא נפתרו מראש סוגיות האמון והפרטיות, והרקע של החברה המספקת הפך לנטל בלתי אפשרי. עבור מי שעובד כאן בפיתוח או בהטמעת פתרונות AI, במיוחד בתחומים רגישים כמו חינוך, בריאות או ממשל – זאת תזכורת חשובה: המוצר הטוב בעולם לא שווה כלום אם הקהילה שאמורה לאמץ אותו לא סומכת עליכם. תמיד תחשבו על הסיפור המלא מאחורי הטכנולוגיה.