בינה מלאכותית בדרום אפריקה: ה'דודה' הדיגיטלית שנלחמת באלימות מגדרית
לאונורה טימה מדרום אפריקה פיתחה אפליקציית GRIT עם צ'אטבוט דמוי 'דודה' לסיוע לקורבנות אלימות מגדרית, בעקבות רצח קרובת משפחתה. האפליקציה כוללת כפתור מצוקה, אחסון ראיות וייעוץ AI, עם 13,000 משתמשים פעילים. מומחים מזהירים מפני מגבלות הבינה המלאכותית בטיפול בטראומה.
אפליקציית GRIT: הפתרון הטכנולוגי של דרום אפריקה נגד אלימות נשים
לאונורה טימה, יזמת דרום אפריקאית, פיתחה פלטפורמה דיגיטלית בשם GRIT (Gender Rights in Tech) המסייעת לנשים מוכות על בסיס טרגדיה אישית במשפחתה. קרובת משפחתה נרצחה בשנת 2020 בהיותה בהריון מתקדם, ומקרה זה לא זכה לסיקור תקשורתי - תופעה שכיחה במדינה עם שיעור רצח נשים הגבוה פי חמישה מהממוצע העולמי.
שלוש תכונות מרכזיות:
- כפתור מצוקה: הקלטה אוטומטית של 20 שניות והתראה למוקד תגובה מהירה
- כספת דיגיטלית: אחסון מוצפן של ראיות לצורך הליכים משפטיים עתידיים
- צ'אט בוט ZOZI: בינה מלאכותית בדמות 'דודה' המספקת ייעוץ ראשוני ומידע על שירותים מקומיים
"המערכת נולדה משיחות עם יותר מ-800 תושבים בשכונות עוני סביב קייפטאון", מסבירה טימה. "התגלה צורך קריטי במנגנון דיווח חלופי למערכת המשטרתית, שאיבדה את אמון הקהילה".
אתגרים והצלחות
האפליקציה, שזכתה לתמיכת גייטס ומוזילה, מונה כיום 13,000 משתמשים ורשמה כ-10,000 פניות עזרה בחודש ספטמבר בלבד. במהלך ניסויים, ZOZI שימשה גם גברים - הן כקורבנות אלימות והן כפוגעים המבקשים עזרה בטיפול בכעסים.
אזהרות מומחים
ליסה וטן, מומחית לאלימות מגדרית, מציינת: "מודלים לשוניים גדולים (LLM) מספקים ניתוח לשוני וניבוי - לא יותר מזה. הם לא מסוגלים להחליף ייעוץ אנושי מורכב". היא מציינת מקרים בהם צ'אט בוטים אחרים נתנו עצות משפטיות שגויות.
"חשוב שנעצב טכנולוגיה עם קולות מגוונים יותר", מסכמת טימה. "רק 22% ממפתחי הבינה המלאכותית בעולם הן נשים. אנחנו זקוקים למפתחות מצבע עור שונה, מהחצי הדרומי של כדור הארץ, ומרקעים סוציו-אקונומיים שונים".