בית המשפט באריזונה ביטל גזר דין בגלל סרטון AI

דמיינו סרטון AI של קורבן ירי מוצג בבית המשפט — והשופט אומר שהוא ״אוהב״ את זה. זה בדיוק מה שקרה באריזונה, ועכשיו בית המשפט לערעורים הפך את ההחלטה.

ב-2021, Gabriel Paul Horcasitas ירה והרג את Christopher Pelkey בן ה-37 בתאונת דרכים אלימה. הוא הורשע בהריגה ונגזרו עליו 10 שנות מאסר, אבל אז, בדיון גזר הדין ב-2025, המשפחה של Pelkey הציגה סרטון AI שבו גרסה סינתטית של הקורבן מדברת ישירות אל הרוצח.

הסרטון נוצר על ידי אחותו של Pelkey, Stacey Wales, באמצעות הקלטות קול, סרטונים ותמונות קיימות. ה-AI שיחזר את Pelkey כדי שיאמר מילים כמו: ״לגבריאל הורקסיטס, האיש שירה בי — חבל שנפגשנו באותן נסיבות. בחיים אחרים, יכולנו להיות חברים. אני מאמין במחילה.״

השופט Todd Lang, ששמע את הסרטון, הגיב בהתלהבות. ״אהבתי את ה-AI הזה, תודה״, הוא אמר. ״שמעתי את המחילה, והרגשתי שהיא אמיתית.״ הוא אף התייחס לבני המשפחה, שהביעו כעס אך אפשרו ל-Pelkey לדבר מהלב, כפי שהם ראו אותו.

עורכת דינו של Horcasitas, Kristen Reller, ערערה על גזר הדין, בטענה שסרטון ה-AI היה מוטה ופגע בזכות להליך הוגן. המדינה ניסתה להגן על השימוש בו, בטענה שהסרטון שיקף את מה שהאחות האמינה ש-Pelkey היה אומר, על סמך האמונות והערכים שהוא כתב עליהם.

אבל בית המשפט לערעורים באריזונה לא השתכנע. בהחלטה מיום רביעי קבע בית המשפט שהסרטון ״חצה את הקו״ מהמותר לפוגעני. ״במקום לתעד אירוע או רגע מסוים״, נכתב, ״סרטון ה-AI מציג תיאור של הקורבן ושל מחשבותיו, שנוצרו בדמיונה של האחות.״

בית המשפט פסק שהסרטון ״פגע ב-Horcasitas במידה כזו, שהליך גזר הדין הפך לבלתי הוגן מיסודו״. כתוצאה מכך, גזר הדין בוטל, ונקבע כי ייערך דיון חדש לגזירת הדין.

מה זה אומר לעולם ה-AI?

עבור מי שעובד בתחום הבינה המלאכותית, המקרה הזה הוא תמרור אזהרה ברור. השימוש ב-AI כדי ליצור תוכן ״עיתונאי״ או ״עדות״ — במיוחד בנושאים רגישים כמו משפט — מעורר שאלות אתיות עמוקות. אם סרטון AI יכול לשכנע שופט, מה קורה כשהוא מבוסס על דמיון ולא על עובדות?

בארה״ב, הפסיקה הזו עשויה להגביל את השימוש בטכנולוגיה בבתי המשפט, לפחות עד שיפותחו תקנים ברורים. כאן, בתעשיית ההייטק הישראלית, זה מזכיר לנו שלפיתוחים שלנו יש השלכות מעבר לקוד — במיוחד כשהם נכנסים למערכות עם סמכות על חיי אדם.

בסופו של דבר, המקרה מראה שגם בעולם המשפט, הטכנולוגיה צריכה לעבור בדיקת מציאות לפני שהיא מתקבלת כאמת.