OpenAI מציגה הגנה שמזהה שימוש לרעה ב-AI בלי לשמור נתונים
OpenAI מציגה את Private Safety Processing, מערכת שמאפשרת לזהות שימוש לרעה ב-AI תוך שמירה על מדיניות Zero Data Retention. המערכת נבדקת עם לקוחות ארגוניים ולקוחות API, ומסמך טכני יפורסם בספטמבר כדי לחזק את האמון בשמירה על פרטיות הנתונים.
בעולם שבו חברות מפחדות לאבד שליטה על הנתונים שלהן כשהן מאמצות מודלי AI, OpenAI מנסה להרגיע. החברה מציגה מערכת חדשה שנקראת Private Safety Processing, שנועדה לזהות שימוש לרעה ב-AI מבלי לשמור את הפרומפטים או התגובות.
המערכת נועדה לנתח דפוסים באינטראקציות מרובות, בניגוד למערכות קיימות שבודקות כל בקשה בנפרד. כך אפשר לזהות סיכונים שמתפתחים לאורך זמן, למשל שימוש לרעה שנמשך לאורך זמן.
״אף מעבדת AI לא יכולה להתמודד עם סיכונים מתפתחים לבד״, נכתב בבלוג של OpenAI. ״Private Safety Processing משקף את הגישה הזו ומעוצב על ידי לקוחות ממגוון תעשיות, אזורים וגדלי חברות.״
לקוחות זכאים, כולל לקוחות ארגוניים ולקוחות API, יכולים להשתמש במערכת עם מדיניות Zero Data Retention (ZDR), מה שאומר שהנתונים לא נשמרים לאחר עיבוד הבקשות. יוצאות מן הכלל הן תמונות המסומנות כ-CSAM פוטנציאלי, שיכולות להישמר לבדיקה ידנית.
זאק פאוורס, CISO של Abridge, אמר: ״בתחום הבריאות, הגנה על כמויות עצומות של נתונים רגישים ושמירה על דיוקם חיוניות לבניית האמון של הקלינאים והמטופלים. העבודה הישירה עם צוותי המוצר, ההנדסה, המדיניות וההנהגה של OpenAI כדי לעצב את הפרקטיקות הללו יצרה שותפות שאין כמוה.״
OpenAI מתכננת לפרסם מסמך טכני בספטמבר ולהתחיל לפרוס את המערכת ללקוחות זכאים. המטרה היא להגביר את האמון ב-AI בקרב חברות שמודאגות מפרטיות, במיוחד ככל שמערכות AI נעשות מתקדמות יותר.