האקדמיה לגונקור הסירה רומן שנחשד בכתיבת AI

כשספר מנצח — ואז מורד מהתחרות

תארו לכם: ספר ראשון שלכם זוכה בפרס הספרותי הראשון של העונה, נכנס לרשימה הקצרה של פרס הגונקור היוקרתי ומועמד גם ל-Renaudot — ואז, תוך 48 שעות, מורד מהרשימה בגלל טענה שכתבתם אותו בעזרת בינה מלאכותית. זה בדיוק מה שקרה ל-Thélyson Orélien, סופר קנדי-האיטי בן 38 ומחבר הרומן ״C'était ça ou mourir״ (בתרגום חופשי: ״זה או למות״).

אז מה בעצם קרה כאן?

ב-21 בספטמבר, באותו היום שבו הספר זכה ב-Prix du Roman Fnac, חשבון X אנונימי בשם ״Balance ton Claude״ — משחק מילים על שמו של עוזר ה-AI של Anthropic — פרסם שהרומן ״כמעט כולו״ נכתב באמצעות AI. הקבוצה טוענת שהיא הכניסה קטעים שונים מהספר לכלי זיהוי AI בשם Pangram, וקיבלה תוצאה זהה: 100% בינה מלאכותית. לטענתם, Pangram טועה רק פעם אחת מתוך 24,400 בדיקות.

ההאשמות לא נעצרו שם. עיתון Libération פרסם טענות שלפיהן הספר מועתק מסיפור קצר שפורסם ב-1960 — הפרה לכאורה של זכויות יוצרים. השילוב בין שתי ההאשמות — AI ופלגיאט — הוביל את האקדמיה להסיר את הספר מרשימת הגונקור, בנימוק של ״שמירה על שלמות הפרס״.

Pangram: כלי מדויק או רולטה?

הבעיה הגדולה: כלי זיהוי AI הם לא מה שאתם חושבים. הם לא יודעים באמת מי או מה כתב טקסט — הם מחפשים דפוסים סטטיסטיים ש״מריחים״ כמו יצירה של מודל AI. אבל כלי זיהוי אחרים שעיתונאים צרפתים בדקו סיווגו את אותו הספר בדיוק כיצירה אנושית. וכשאתם מריצים טקסט על כמה כלים שונים, אתם יכולים לקבל תשובות הפוכות.

מחקרים מראים שהכלים האלה יכולים לסמן טקסט אנושי כ-AI, וגם לפספס טקסט שנוצר על ידי AI — במיוחד אם עבר עריכה או פרפרזה. עוד בעיה: הם נבנו סביב שפות סטנדרטיות — אנגלית וצרפתית — וקשה להם לנתח טקסטים הכתובים בדיאלקט קריבי, כמו במקרה של Orélien.

מי עומד מאחורי ההאשמות?

Orélien הכחיש הכול בריאיון לעיתון Libération: ״תמיד אהבתי יצירה וספרות. אני לא רואה למה הייתי צריך מכונה.״ הוא הסביר שהשפה, הקצב והחזרות ברומן מגיעים מהמסורת ההאיטית והקריבית שלו. לדבריו, הטיוטה הראשונה נכתבה ב-2019 — הרבה לפני שמודלי AI ליצירת טקסט הפכו זמינים לציבור הרחב.

ההוצאה Grasset יצאה להגנתו וקראה להאשמות ״פוגעניות באופן נורא״. הספר מכר כ-35,000 עותקים וזכויות התרגום שלו נמכרו ליותר מ-20 שפות — מה שהמפיץ הקנדי Boréal תיאר כרב-המכר הגדול ביותר של ההוצאה ב-60 שנה.

מאוחר יותר התברר שמאחורי החשבון האנונימי עומד Samuel Fitoussi, בעל טור בעיתון Le Figaro. בחשבון ה-X שלו הסביר Fitoussi שהוא אמנם ״טכנו-אופטימיסט״, אבל חושש ש-AI יגרום להיעלמות הקריאה והכתיבה.

Orélien עצמו אמר בפסטיבל ספרותי בדרום צרפת: ״יש רצון לתקוף את הספר — אבל במיוחד את הקול שלי. להשתיק אותי.״

מה זה אומר עלינו?

המקרה הזה הוא תמרור אזהרה לכל מי שעובד עם תוכן. ככל שה-AI נכנס למיינסטרים, השאלה ״מה נחשב לגיטימי?״ הופכת חדה יותר. אפשר לייצר טקסט עם AI ואז לערוך אותו, או לכתוב טקסט מקורי ואז לבקש מ-AI לשפר אותו — איפה עובר הקו?

האם אנחנו הולכים לעולם שבו כל טקסט עובר בדיקת AI, כמו בדיקת פלגיאט? ואם הכלים האלה לא אמינים, מי קובע מה ״אנושי מספיק״?

בסופו של דבר, הרומן של Orélien — בין אם נכתב ב-AI או לא — חושף את מה שהטכנולוגיה עושה לנו: היא גורמת לנו לפקפק בכול.