אפל אוסרת אפליקציות AI ליצירת תמונות עירום ללא הסכמה

אם אתם מפתחים אפליקציה שמאפשרת העלאת תמונות משתמשים, כדאי שתשימו לב. אפל פרסמה עדכון משמעותי למדיניות ה-App Store שלה, שמתמקד ישירות בתופעה הולכת וגדלה של אפליקציות AI להסרת בגדים מתמונות (nudify).

מה בעצם השתנה?

בעבר, אפל אסרה על אפליקציות שמטרתן ליצור תוכן מיני מפורש. העדכון הנוכחי הולך צעד אחד קדימה ומטיל עליכם, המפתחים, את האחריות למנוע שימוש לרעה בפלטפורמות שלכם.

אפל דורשת כעת:

• למנוע, לסנן ולהסיר באופן אקטיבי תמונות אינטימיות שנוצרו ללא הסכמה, כולל כאלה שהופקו באמצעות מודל AI.
• לאפשר למשתמשים לדווח על תוכן פוגעני ולחסום חשבונות שמבצעים שימוש לרעה.
• ליישם הגנות מספקות למניעת העלאת תוכן כזה מלכתחילה.

מה קורה אם לא?

אפל מזהירה במפורש: אם מפעילי אפליקציה לא יטפלו בדיווחים או לא ימנעו את הפגיעה, האפליקציה שלהם תוסר מהחנות. מעבר לכך, אפליקציה שתוכננה מראש כ-"nudify" או כזו שמוסיפה תכונה כזו לאחר האישור – תיחשב להפרה בוטה, תוסר מיידית, והמפתח ייחסם מהתוכנית.

זאת לא רק הנחיה, אלא דרישה מחייבת שמגדירה מחדש את הקו האדום של אפל בכל הנוגע לניצול לרעה של טכנולוגיית AI על ידי צדדים שלישיים ב-App Store.