הבינה המלאכותית קובעת מי אתה – ומה יהיה גורלך הכלכלי

האלגוריתמים הקובעים את חיינו – מציאת עבודה עד סיכון לחייהם

חברות ומוסדות ממשלתיים משתמשים בבינה מלאכותית לקבל החלטות מכריעות על חיינו - החל ממיון מועמדים לעבודה ("סינון אוטומטי של קורות חיים") ועד זיהוי מטרות צבאיות ("אלגוריתם Lavender"). לפי מאמר דעה בניו יורק טיימס, מערכות AI מסתמכות על דפוסי התנהגות קולקטיביים ולא על נתונים אישיים בלבד, כך שאפילו הגנה קפדנית על הפרטיות לא תמיד עוזרת.

"ההשלכות זהות לאתגר משבר האקלים - פליטה אחת לא משנה, אבל פליטה של כולם תשמיד את העולם" (מקסימיליאן קאסי, אוניברסיטת אוקספורד)

שימושים שנויים במחלוקת:

• קיזוז נתוני מיסוי ורישיונות נהיגה לזיהוי מהגרים בלתי חוקיים (פלנטיר)
• הטסת מלחמה על בסיס "דפוסי התנהגות" בשכונות עוינות ("איפה אבא?")
• ניבוי עתיד פיננסי ע"י בנקים המנתחים מיקוד דואר ונתונים חברתיים

הפרטיות הדיפרנציאלית – פתרון חלקי בלבד

בעוד טכניקות כמו Differential Privacy (הגנה על זהות הפרט באמצעות הוספת רעש סטטיסטי) נפוצות בסמארטפונים ומפקדי אוכלוסין, אלגוריתמי ה-AI עדיין מזהים דפוסים קבוצתיים. לפי הניתוח, הפתרון טמון ב:

1. שקיפות תאגידית: דיווח על מטרות האלגוריתמים (האם הם ממקסמים רווחים, מעצרים או סילוק עובדים?)
2. השתתפות ציבורית: קביעת נהלים באמצעות אסיפות אזרחיות מייצגות, בדומה למושבעים במשפט

המהפכה שתצמיח את הכלכלה?

לעומת זאת, מאמר ב-Wall Street Journal מצביע על הצד השני של המטבע – היסטורית, כל מהפכה טכנולוגית הביאה בסופו של דבר לשגשוג כלכלי נרחב. כפי שהתיעוש שינה דפוסים כלכליים אך הביא לשפע חסר תקדים, כך AI עשויה ליצור מגזרים כלכליים חדשים ולהגדיל את הפרודוקטיביות הגלובלית.

הזירה נקבעת - של מי הנתונים?

הקרב על עתיד ה-AI לא יוכרע בטכנולוגיה, אלא בשליטה על הנתונים וההגדרות המוסריות המוטמעות באלגוריתמים. ללא רגולציה דמוקרטית, המערכות ישקפו בעיקר אינטרסים תאגידיים ופוליטיים.