Tinder עוצרת את כלי ה-AI ששינה פנים

מה קרה?

Tinder השיקה לאחרונה כלי בשם Photo Enhance — פיצ'ר AI מובנה בתוך האפליקציה שאמור לשפר תמונות פרופיל אוטומטית. נשמע שימושי, נכון? אז זהו, שהכלי לקח לעצמו יותר מדי חופש יצירתי.

לפי דיווח ב-NBC News, משתמשים הופתעו לגלות שה-AI לא רק שיפר תאורה או חדות — הוא שינה להם תווי פנים, גוון עור, ואפילו הוסיף פרטים שלא היו קיימים. ג'ני רובין, אחת המשתמשות, קיבלה התראה באפליקציה שאחת התמונות שלה "שופרה". כשהיא פתחה אותה, היא ראתה שחיוך סגור וצנוע שלה הוחלף בחיוך רחב עם שיניים — שלא היה שלה בכלל.

אז מה בעצם קרה כאן?

ה-AI קיבל אישור לבצע "שיפורים", אבל לא עצר בגבולות שמשתמשים סבירים היו מצפים להם. במקום תיקון תאורה או הסרת פגמים קטנים, המודל שינה מאפיינים פיזיים בולטים — דברים שקשורים לזהות האישית של המשתמש, לא לאיכות הצילום.

Tinder מסרה שהשינויים הלא מתוכננים השפיעו על "מספר קטן של משתמשים", והחברה השהתה את הפיצ'ר בינתיים כדי לטפל בבעיה.

למה זה חשוב למי שעובד ב-AI?

מעבר למבוכה של משתמשי Tinder, יש כאן שיעור טכני ומקצועי לכל מי שבונה מוצרים עם AI גנרטיבי:

• consent וגבולות: כשנותנים ל-AI לבצע מניפולציה על תמונות אנשים, הקו בין "שיפור" לבין "שינוי זהות" הוא דק מאוד. המשתמשים לא אישרו לשנות את המראה שלהם — הם אישרו לשפר תמונה.

• אחראי מוצר, תהיו זהירים: כשמטמיעים מודל AI בייצור, במיוחד כזה שנוגע בנתונים אישיים רגישים כמו פנים, צריך להגדיר גבולות ברורים מאוד מראש. לא רק מה ה-AI יכול לעשות, אלא מה הוא אמור לעשות.

• הסיכון במוצרי consumer: כשמדובר בפרופילי היכרויות, התמונה היא הזהות. שינוי לא מורשה של מראה המשתמש זו לא תקלה טכנית — זו פגיעה באמון המוצר.

ומה עם Tinder?

נכון לעכשיו הפיצ'ר מושהה. לא ברור מתי יחזור, או אם יחזור במתכונת שונה. אבל הכיוון ברור: חברות שממהרות לשלב AI גנרטיבי במוצרים ציבוריים לומדות בדרך הקשה שהדיבוק הזה יודע לעשות הרבה יותר ממה שביקשתם ממנו.