גוגל משיקה תוכנית מענקים למציאת חולשות בינה מלאכותית - עד 30,000 דולר לגילוי
גוגל השיקה תוכנית תגמולים חדשה למציאת חולשות במערכות הבינה המלאכותית שלה, עם תמריץ של עד 30,000 דולר לדיווח. בין הפגיעויות המבוקשות: הזרקת פקודות עקיפה שיכולה לגרום למכשירי בית חכם לבצע פעולות מסוכנות, דליפת נתונים, ומניפולציה של מודלי דור תוכן. התוכנית נועדה לחזק את אבטחת ה-AI בתגובה לסיכונים חדשים.
גוגל הכריזה ב-6 באוקטובר 2025 על תוכנית תגמולים חדשה למציאת חולשות במערכות הבינה המלאכותית שלה. התוכנית מציעה תשלומים של עד 30,000 דולר לחוקרי אבטחה שיחשפו פגיעויות קריטיות.
על מה ניתן לדווח?
- זריקת פרומפטים עקיפה (Indirect Prompt Injection) שיכולה לגרום למכשירים כמו Google Home לבצע פעולות מסוכנות (לדוגמה: פתיחת דלתות)
- דליפת נתונים באמצעות הזרקת פרומפטים
- פגיעויות המאפשרות הפעלת קוד זדוני בלתי מורשה
- מניפולציה של מודלי דור תוכן (Generative AI) ליצירת תוכן מזיק
התוכנית מהווה חלק מהמאמץ המתמשך של גוגל לאבטח את פלטפורמות ה-AI שלה, בעידן שבו הטכנולוגיה הופכת למרכיב מרכזי במוצרי הצרכנות של החברה.