VaultGemma: חדשנות בבינה מלאכותית שמגנה על הפרטיות מול האתגרים העולים

גוגל משיקה את VaultGemma – דגמי AI חדשים שמגנים על פרטיות ללא פשרה בביצועים

חוקרי Google Research ו-Google DeepMind חשפו את VaultGemma, דגם שפה גדול (LLM) בעל מיליארד פרמטרים המשתמש בפרטיות דיפרנציאלית (Differential Privacy) כדי להגן על מידע רגיש ללא פגיעה בביצועים. הטכנולוגיה הזו מוסיפה "רעש מתמטי" למערך הנתונים, וכך מונעת חשיפת מידע מזהה תוך שמירה על דיוק המודל.

• ביצועים חסרי תקדים: במבחני MMLU ו-Big-Bench הוכיח הדגם יכולות הדומות לדגמי Gemma הרגילים, אך עם ערובות פרטיות מלאות
• ארכיטקטורה ייעודית: מבוסס על Gemma 2 עם 26 שכבות ו-Multi-Query Attention, ואורך רצף מוגבל ל-1,024 טוקנים לצמצום עומס חישובי
• קוד פתוח: המשקולות והקוד זמינים ב-Hugging Face ו-Kaggle - מהלך אסטרטגי של גוגל לקידום AI אתי בענפים רגישים כמו רפואה ופיננסים

הצד האפל של צ'אטבוטים: סכנות פרטיות שמתעלמים מהן

בעוד הטכנולוגיה מתקדמת, מחקר של Forbes חושף כי:

• דליפות נתונים: שיתוף שיחות ב-ChatGPT ו-Grok הוביל לאינדוקס צ'אטים ציבוריים החושפים פרטים אישיים
• פגיעויות אבטחה: צ'אטבוט של Lenovo נמצא רגיל להזרקות פרומפטים זדוניים שגנבו קוקיז ונתונים
• AI צללים: עובדים משתמשים בצ'אטבוטים לעיבוד מידע עסקי רגיש מחוץ למדיניות האבטחה של הארגון

המלצות קריטיות:

1. אל תשוחחו עם צ'אטבוטים על מידע רפואי/פיננסי/אישי שאתם לא מוכנים לחשוף בפומבי
2. ארגונים חייבים מדיניות ברורה נגד "AI צללים" עם אימוני מודעות
3. מודלים כמו VaultGemma מציעים אלטרנטיבה מאובטחת ליישומים רגישים

עתיד הפרטיות בעידן ה-AI

בעוד VaultGemה מציג פריצת דרך טכנולוגית, האתגרים סביב פרטיות ב-AI דורשים שילוב של:

• רגולציה מחמירה יותר
• מודלים אתיים בקוד פתוח
• מודעות משתמשים לסכנות