מצלמות AI בדאלאס: 20 אלף הפרות, רק 57 קנסות
עיריית דאלאס החלה להשתמש במצלמות AI על משאיות אשפה כדי לאתר הפרות של תקנות תחזוקה. מתוך למעלה מ-20,000 הפרות שזוהו בארבעה חודשים, רק 57 קנסות ניתנו. התוכנית, שעלותה 852,000 דולר בשנה, מעוררת חשש מאפליה נגד שכונות עניות וממחסור בנתונים על יעילותה.
דמיינו את משאית האשפה שלכם: מעבר לשירות הרגיל, היא גם מצלמת את הבית שלכם ומדווחת על מפגעים. זה מה שקורה בדאלאס, טקסס, שם העירייה החלה לאחרונה להשתמש במצלמות AI שמורכבות על צי של משאיות האשפה העירוניות. התוצאה? בתוך ארבעה חודשים בלבד, המערכת סימנה למעלה מ-20,000 הפרות לכאורה של תקנות ניקיון ותשתית ברחובות העיר. מתוכן, רק 57 קנסות ניתנו לבסוף. הפער הזה – בין כמות הדגלים האדומים לבין מספר הקנסות בפועל – מעלה שאלות קשות לגבי היעילות, העלות ואפילו ההגינות של השימוש בטכנולוגיה הזו.
איך זה עובד בפועל?
מדובר במערכת של חברה בשם City Detect. מצלמות שמורכבות על 50 משאיות גדולות לאיסוף פסולת ברחבי דאלאס מתעדות תמונות סטילס (לא וידאו רציף) מהמדרכות הציבוריות במהלך המסלולים הרגילים שלהן. התמונות מועברות לתוכנת AI שסורקת אותן ומחפשת סימנים אפשריים להפרות של קוד העיר: דשא לא מטופח, פסולת, מכוניות חונות על מדשאות, קירות עם גרפיטי, צבע מתקלף וכו'.
כאשר ה-AI מסמן מפגע אפשרי, זה לא נגמר שם. העירייה טוענת שקיים תהליך אנושי קפדני:
- אנליסט של מחלקת הציות לקוד בוחן את התצפית.
- האנליסטים מחליטים אם להתעלם, לשלוח הודעת נימוס (courtesy notice) או לפתוח תיק.
- קצין קוד מבצע בדיקה פיזית בנכס ומודיע לבעל הנכס.
- קנס יינתן רק אם ההפרה תאושר ותישאר לא פתורה.
מספרים גדולים, תוצאות קטנות
הנתונים הם דרמטיים. מתוך אותן 20,000 הפרות שזוהו, 57 קנסות בלבד ניתנו ל-34 נכסים. לשם השוואה, נשלחו כ-3,700 הודעות נימוס לבעלי נכסים. בעירייה אומרים שהודעות אלה אינן דורשות דבר מבעלי הנכסים, ומיועדות "לחנך". עם זאת, תושבת אחת מ-Oak Cliff, שרה מוריסון, קיבלה הודעה כזו, שבה נכתב באותיות מודגשות "זוהו הפרות", ושאם לא תתקן אותן היא עלולה לקבל קנס. "זה מרגיש מאוד מלוכלך ומניפולטיבי," היא סיפרה. "אני מודאגת מאנשים שלא מבינים שלמסמך הזה אין באמת את המשקל שהניסוח מרמז עליו."
"מס עניים" לא מכוון?
החששות לא עוסקים רק ביעילות. מפות החום שסיפקה העירייה מראות בבירור שה-AI "ראה" הרבה יותר מפגעים בדרום דאלאס – כ-13,800 מתוך ה-20,000. מתוך 57 הקנסות שניתנו, 68% (39 קנסות) היו ברבעים 4, 8 ו-7 שבדרום העיר, שבהם רוב התושבים הם שחורים והיספנים.
חבר מועצת העיר, צ'ד ווסט, המייצג את אזור Oak Cliff, חושש ש"בסופו של דבר, זה עלול להיות מס עניים לא מכוון." הוא מציין שבדרום העיר יש בתים ישנים יותר, תחזוקה שנדחית ופחות משאבים לתיקונים. "המצלמות האלה עלולות ללכוד הפרות מהר יותר מאשר בודק אנושי, ובסופו של דבר להעניש אנשים שפשוט לא יכולים להרשות לעצמם לתקן את הבית שלהם."
ראש מחלקת הציות לקוד, ג'רמי ריד, דוחה את הטענות ואומר שהמערכת לא מכוונת לאזורים ספציפיים. "יש יותר הפרות בדרום דאלאס מאשר בצפון דאלאס. אנחנו מנסים, בכל מקרה, להשיג ציות מרצון. המטרה מעולם לא הייתה קנסות." עם זאת, הוא מודה שה-AI יאסוף יותר הפרות בדרום.
תג מחיר של 852,000 דולר בשנה
היבט העלות-תועלת נמצא כעת תחת מיקרוסקופ. התוכנית אושרה בשנה שעברה בחוזה תלת-שנתי של 2.56 מיליון דולר. התקציב השנתי עומד על כ-852,000 דולר. חבר המועצה ווסט כבר ביקש לבטל את התקציב, אך בינתיים ביקש מהעירייה לספק תשובות: למי יש גישה לתמונות? כמה זמן הן נשמרות? ובעיקר – איפה הראיות שהמערכת הזו חוסכת כסף או משפרת משהו?
נכון לעכשיו, אין בדיקה מקיפה של החזר ההשקעה (ROI). העירייה יכולה לספור מה המצלמות רואות, אבל עדיין לא יכולה להראות כמה כסף זה חוסך. "צוות העירייה יכול לספור מה המצלמות שלו רואות, אבל עדיין לא יכול להראות כמה כסף המערכת חוסכת או אם היא משפרת את אכיפת הקוד," נכתב בדיווח.
מה הלאה?
הדיון הציבורי רק מתחיל. התוכנית אמורה לעלות לדיון ב-19 באוקטובר בוועדת איכות חיים, אמנויות ותרבות של מועצת העיר. חברי המועצה צפויים לתחקר את המערכת לגבי עלותה, אמצעי ההגנה על הפרטיות, ההשפעה הגיאוגרפית ותוצאות מדידות. הם ירצו לדעת אם ה-AI הזה הוא כלי יעיל למאבק בלכלוך, או מכשיר פיקוח יקר שפוגע בחלשים. עבור עובדי ההייטק בישראל, זו דוגמה מוחשית לשאלה הגדולה של איך מיישמים AI ברשויות ציבוריות – והאם תמיד הטכנולוגיה היא הפתרון הנכון.