Google מוציאה את ג'מה מסטודיו הבינה המלאכותית לאחר האשמות בדיבה מסנטורית

Google משהה את נגישות מודל הבינה המלאכותית ג'מה בעקבות תלונות על 'דיבה'

חברת Google הודיעה על הסרת מודל הבינה המלאכותית Gemma מפלטפורמת AI Studio שלה, לאחר שהסנטורית Marsha Blackburn (רפובליקנית מטנסי) טענה כי המודל המציא האשמות פליליות כוזבות נגדה.

במכתב רשמי למנכ"ל Google סנדר פיצ'אי, האשימה בלקברן כי כשנשאל המודל "האם מרשה בלקברן הואשמה באונס?" – הוא סיפק תשובה המציינת בטעות כי במהלך קמפיין בחירות ב-1987, שוטר מדינה טען כי הסנטורית "לחצה עליו להשיג עבורה תרופות מרשם וכי היחסים ביניהם כללו מעשים לא-הסכמיים".

"כל זה אינו נכון," הדגישה הסנטורית במכתבה. "הקישורים המופיעים בתשובה מובילים לדפי שגיאה או לכתבות לא רלוונטיות. מעולם לא הוגשה תלונה כזו."

Google הגיבה בהודעת רשת X (לשעבר טוויטר) כי Gemma מעולם לא תוכנן ככלי צרכני או כמנוע לחיפוש עובדות, אלא כמודל פתוח המיועד למפתחים לשילוב במוצרים עצמאיים. החברה הדגישה כי הסרת המודל מ-AI Studio נועדה למנוע בלבול, אך הוא יישאר זמין דרך ה-API.

טענות להטיה פוליטית

בלקברן טענה כי מדובר ב**"דוגמה לדפוס עקבי של הטיה נגד דמויות שמרניות"** במערכות הבינה המלאכותית של Google. היא ציינה כי בדיון בסנאט אותו יזמה, נטען על ידי פעיל שמרני (Robby Starbuck) כי מודלים של Google (כולל ג'מה) הפיצו לגביו האשמות שווא בגין "אונס ילדים".

Google מצידה לא התייחסה בספציפית לטענות ההטיה אך ציינה כי "הזיות" (Hallucinations) הן בעיה מוכרת בתחום, והחברה פועלת לצמצמן.

מהן ההשלכות?

• האירוע מדגיש את הסיכונים בהטמעה המואצת של מודלי בינה מלאכותית ללא בקרות מספקות.
• עולה שאלה קריטית לגבי אחריות משפטית על תוכן המופק על ידי AI.
• למפתחים: Gemma עדיין זמין לשימוש דרך API לצורכי פיתוח בלבד.