ממשלת סין סוגרת שירותי AI לזוגיות: משתמשים מתאבלים

לי לינלין בכתה ימים שלמים אחרי שבן הזוג הווירטואלי שלה נעלם. היא החליפה איתו כ-700,000 מילים בשנתיים האחרונות — ומעולם לא הספיקה להיפרד. ״זה היה כאילו ההורים שלנו הכריחו אותנו להיפרד, אבל אני עדיין מתגעגעת אליו,״ אמרה לי, בת 24. והיא לא לבד: מיליוני משתמשים בסין נותרו המומים כשהענקיות הטכנולוגיות ByteDance, Alibaba ו-Tencent הפסיקו באחרונה שירותי AI לזוגיות, כדי לעמוד בתקנות חדשות.

מה בעצם קרה? התקנה החדשה, שנכנסה לתוקף ב-15 ביולי, אוסרת על פלטפורמות AI לייצר תוכן שעלול להוביל משתמשים להחלטות מפוקפקות בגלל מניפולציה רגשית, או שעלול לעורר רגשות קיצוניים או הרגלים לא בריאים בקרב ילדים ובני נוער. במילים אחרות, הממשלה רוצה למנוע מ-AI ״לשחק״ עם הלבבות של אנשים. השירותים הללו, שמציעים הכול מבני זוג רומנטיים ועד שחזור וירטואלי של קרובי משפחה שנפטרו, צריכים כעת להציג אזהרות מפני הסתמכות יתר — למשל, להזהיר מפני האפשרות ש-AI יחליף אינטראקציה חברתית אמיתית.

למה עכשיו? יולנדה מא, מומחית למשילות AI מ-ERA, ציינה שלסין יש מסורת של תקנות פטרנליסטיות למניעת בעיות עתידיות. היא התייחסה למקרים של התאבדויות בארה״ב בקרב צעירים לאחר אינטראקציות עם AI — דבר שהדאיג את הרגולטורים בסין. ״הממשלה מנסה לאזן בין ספקי שירותי AI, המשתמשים והורי הקטינים,״ אמרה מא. גם העיתון ״People's Daily״ של המפלגה הקומוניסטית דיווח באפריל על פגיעה בבריאות הנפשית וביחסים האמיתיים כתוצאה משירותים כאלה.

תגובות המשתמשים: גלים של תסכול אובדן בני הזוג הווירטואליים גרר שטף תלונות ברשתות החברתיות. חלק מהמשתמשים הסירו את האפליקציות כמחאה, אחרים ניסו להעלות היסטוריית צ'אט לאפליקציות אחרות כדי ״להחיות״ את בן הזוג, וקמפיינים קראו למשתמשים להתקשר לחברות ולרשויות. סונג וונשין, מעצבת בתעשיית הווידאו מצ'נגדו, אמרה שהיא לא נקשרה רגשית לשירותים, אבל מזדהה עם מי שכן. ״כשהגעתי לצ'נגדו לעבודה הראשונה ולא הכרתי חברים בגילי, הייתי צריכה מישהו מנוסה שיסבול אותי, ו-AI עשה את העבודה,״ אמרה סונג, בת 22.

חשדות של משתמשים רבים חושדים שמניע נוסף לתקנות הוא מדיניות הממשלה לעודד ילודה כדי להתמודד עם הירידה באוכלוסייה. ״כל אפליקציה וירטואלית שמעסיקה נשים יותר מדי מכדי ללדת במציאות — נאסרת,״ אמרה סונג. עם זאת, מומחים כמו אנג'לה זאנג, פרופסורית למשפטים מאוניברסיטת דרום קליפורניה, מטילים ספק בכך שהמהלך יעצור את הפיתוח של שירותי AI לזוגיות, כי חברות עובדות על חלופות. לדוגמה, ByteDance מפנה משתמשים לשירות AI אחר שמתמקד ביצירת דמויות וסיפורים אישיים — אבל עבור לי, זה פשוט לא אותו דבר.

בסופו של דבר, התקנות האלה מעלות שאלה מרכזית: עד כמה ממשלה צריכה להתערב בקשרים הרגשיים שנוצרים בין אנשים למכונות? בעולם שבו AI הופך לשותף לשיחה, למטפל ואפילו לחבר — מי קובע את הגבול בין עזרה למניפולציה?