סרטוני AI של מתים: נחמה שמעלה שאלות אתיות קשות

לִי גֶאוֹן הוּי, עובד משרד בן 28 מדרום קוריאה, רצה לתת מתנה יוצאת דופן לאביו שגידל אותו לבד. הוא כתב הודעה ושכר את חברת Vaice מסיאול כדי ליצור סרטון וידאו קצר עם דמות דיגיטלית של סבו המנוח. הדמות הווירטואלית קראה לאביו "בני היקר ביותר", והתנצלה על כך שהכריחה אותו לעזור בעבודת החווה בילדותו ועל שהתנגדה להחלטתו להפוך לסופר. "אבא שלי אמר שהוא לא יראה את הסרטון. אבל אז הוא ראה אותו, והזיל דמעות. אז הרגשתי מתוגמל", סיפר לִי.

תופעה הולכת וגדלה

זהו סיפור אחד מתוך מגמה מתפשטת בדרום קוריאה. מספר הולך וגדל של חברות סטארט-אפ מציעות שירותי יצירת סרטונים עם שחזורים דיגיטליים של נפטרים באמצעות בינה מלאכותית, ותוכניות טלוויזיה מקומיות כבר הציגו גרסאות AI של כוכבי פופ ושחקנים שהלכו לעולמם.

החברה Vaice משרתת כ-300 לקוחות בחודש, בעיקר בני 40-50 שמעוניינים בסרטונים של הוריהם המנוחים. אחרים מבקשים סרטונים של סבים וסבתות כמתנה להוריהם. לדברי מנכ"ל החברה, ג'יאֶונְגוּ וון, החברה זקוקה למספר צילומים ודגימות קול קצרות של הנפטר כדי ליצור את הדמות. סרטון בסיסי של שלוש עד חמש דקות עולה 600,000 וון (כ-390 דולר).

רבים מהלקוחות משמיעים את הסרטונים באירועי זיכרון משפחתיים או בחגים. לדברי וון, הלקוחות כותבים את התסריט בעצמם, ורובם מוסיפים את המילים "אני אוהב אותך", כאשר חלקם מתייחסים לחרטות על סכסוכים שלא נפתרו עם הוריהם המנוחים.

"חרב פיפיות"

למרות הביקוש הגובר, התעשייה המתפתחת מעוררת דאגות משמעותיות. "זוהי חרב פיפיות, משום שהיא עוסקת ברגשות אנושיים", אמר יוֹנְג מָן רוֹ, מומחה AI מהמכון המתקדם למדע וטכנולוגיה של קוריאה (KAIST). "כשטכנולוגיות AI הופכות לחלק מחיי אנשים, הן יכולות גם להביא חוויות תרבותיות וזעזועים שלא חווינו מעולם."

כשחברת JL Standard השיקה שירות דומה לפני חמש שנים, היא נתקלה בחשדנות מצד לקוחות שחששו שהדבר יפתח מחדש את כאבם. עם זאת, קבלת הטכנולוגיה הולכת ומתרחבת, בין היתר בזכות הופעות מדומות של מפורסמים שנפטרו בטלוויזיה.

שאלות אתיות ומשפטיות

משקיפים מזהירים ששחזור אנשים מתים מעלה שאלות אתיות ויכול לסכן אנשים פגיעים אם הוא מטשטש את הגבול בין העולם האמיתי לעולם הווירטואלי. פרופסור צ'וֹנְג וָאן, פרופסור אמריטוס למשפטים באוניברסיטת קְיוּנְג הִי בסיאול, טוען שיש צורך דחוף בחוקים להגנה על כבודם וזכויותיהם של נפטרים. לדבריו, יש לאסור יצירת גרסת AI של אדם מת אם האדם התנגד לכך בחייו, ולהטיל מגבלות ברורות על שימוש מסחרי בקולות ותמונות.

"בוטים של אבל" – השלב הבא

מומחים מעריכים שהסוגיות האתיות יהיו מורכבות הרבה יותר עם ההתפתחות הטכנולוגית, במיוחד בכל הנוגע ל"בוטים של אבל" (griefbots או deathbots) – מערכות המדמות שיח דו-כיווני בין אנשים מתייסרים לבין גרסאות AI של יקיריהם שנפטרו. חברות סטארט-אפ כבר מתנסות במוצרים כאלה.

"מבחינה פסיכולוגית, אבל בריא כרוך בתהליך של הכרה בהיעדרו של הנפטר ומעבר דרך כאבי האובדן", הסביר צ'וֹנְג. "אך שיחה עם מערכת AI המדמה אדם חי עלולה לערער את תהליך קבלת המוות ולגרום לאפקט שלילי של לכידת האבלים בפנטזיה."

חוויות אישיות וטכנולוגיה מתקדמת

הטכנולוגיה מתקדמת בקצב מהיר. לדברי צ'וֹי יוּהָה מחברת JL Standard, ההתקדמות הטכנולוגית מאפשרת לשחזר אפילו קמטים ונקבוביות עור ברמת פירוט מרשימה, והלקוחות מדווחים שדמויות ה-AI אכן נראות כמו יקיריהם.

רוֹ עצמו יצר סרטון של דקה אחת עם דמויות AI של הוריו לאחר שנפטרו בשנה שעברה, והשמיע אותו באסיפה משפחתית. "כשהמשפחה ראתה גרסאות דיגיטליות של ההורים שלנו אומרים 'אל תדאג' ו'שמור על עצמך', כולנו התרגשנו מאוד", סיפר. "אבל אני ואחיי לא צפינו בזה שוב. פעם אחת הספיקה כדי לכבד את הורינו המנוחים. עברנו הלאה."

גם וון, מנכ"ל Vaice, נזהר מלהשיק שירות צ'אטבוט AI, מכיוון ששיחות בזמן אמת עם אנשים אינן יכולות להיות מפוקחות על ידי אנשי החברה ועלולות לגרום לבעיות אתיות בלתי צפויות.

סיכום

השאלה נותרת פתוחה: האם הסרטונים האלה הם כלי נחמה לגיטימי, או שהם מסכנים את היכולת הטבעית לעבד אבל? מה שברור הוא שהטכנולוגיה כבר כאן – וקצב ההתקדמות שלה מהיר הרבה יותר מקצב ההסדרה החוקית והאתית שמסביבה.