העליון: אסור להסתמך על AI בלי בדיקה אנושית

עירייה סירבה להסיע את בנו של אב לבית הספר — תלמיד בחינוך המיוחד — אחרי שהמשפחה עברה דירה. בנימוק לסירוב היא ציטטה חוזר של מנכ"ל משרד החינוך ופסקי דין עדכניים. הבעיה: החוזר ופסקי הדין אינם קיימים. איש לא בדק מה הכלי כתב.

השנה הגיע הסיפור לבית המשפט העליון. השופטים קבעו שההחלטה התבססה על שימוש ב-AI בלי בקרה, וחייבו את העירייה בהוצאות של 30,000 ש"ח — לא סכום עתק, אבל מסר חד: האחריות נשארת אצל האדם. את הכלי עצמו בית המשפט דווקא לא פסל. "לא עצם השימוש בבינה מלאכותית הוא הפסול", כתב המשנה לנשיא סולברג, "אלא השימוש בה ללא בקרה מתאימה".

אז מי אמור ללמד איך לבצע את הבדיקה הזו?

האקדמיה, לכאורה. בפועל היא עונה ל-AI בטופס: באוניברסיטה אחת ברירת המחדל היא שהשימוש מותר, אבל כל סטודנט מצרף הצהרה אם השתמש בכלים או לא השתמש בהם. הטופס מודיע למרצה על השימוש — הוא לא מלמד איש להשתמש נכון.

המספרים לא מותירים הרבה מקום לספק. לפי סקר של התאחדות הסטודנטים, כמעט תשעה מכל עשרה סטודנטים משתמשים בכלים בתדירות גבוהה, וכשישה מכל עשרה אומרים שהמוסד לא סיפק להם הדרכה. כלומר, אנחנו מפקחים על מה שלא לימדנו.

וגם הפיקוח עצמו חלש. ב-2023 הסירה OpenAI את הכלי שפיתחה לזיהוי טקסט שנוצר בידי מכונה, אחרי שהוא זיהה רק כרבע מהטקסטים האלה. הטופס מכביד דווקא על מי שממלא אותו ביושר, ומי שלא מצהיר — אין דרך אמינה לתפוס.

מה בעצם עובד

ניסוי בטורקיה ממחיש את הבעיה ואת הפתרון. חוקרים אמריקנים נתנו לכאלף תלמידי תיכון לתרגל מתמטיקה עם GPT-4. בתרגול הם הצליחו יותר — אבל כשהגישה לכלי נלקחה, ציוניהם היו נמוכים ב-17% מציוניהם של אלה שמעולם לא השתמשו בו. קבוצה אחרת קיבלה גרסה עם הנחיות שנועדו להגן על הלמידה, ואצלה רוב הפגיעה נמנעה. הכלי לא הבעיה; הדרך שבה משתמשים בו היא הבעיה.

החשש הזה ישן כמו הכתב עצמו. בפיידרוס של אפלטון מספר סוקרטס על המלך המצרי תאמוס, שחשש שהכתב יביא שכחה ללומדים ויהפוך אותם לחכמים למראית עין בלבד. ב-2007 התמודד החוג להיסטוריה בקולג' אמריקני עם ויקיפדיה: הוא אסר לצטט אותה כמקור, אבל לא אסר להשתמש בה. ראש החוג הסביר שאין טעם באיסור שאי אפשר לאכוף, ושמטרת הכלל היא לחנך ולא להעניש.

גם בישראל מתחיל שינוי. בתחילת החודש אימצה אוניברסיטה המלצות של ועדה, שלפיהן הערכה לא מפוקחת — עבודות בית ומבחני בית — אינה תקפה עוד, ובמקומה נקבעו מבחנים בעל פה והצגה בעל פה של העבודה הסמינריונית. כך נבדקת ההבנה עצמה, בשיחה ולא בטופס.

הפקידים, עורכי הדין והמורים של מחר יושבים היום בכיתות. הם ישתמשו ב-AI בכל מקרה. השאלה היא אם ילמדו אותם לבדוק את התשובה — לפני שמישהו אחר יבדוק אותם בבית המשפט.