האלגוריתם שמעצב את ההיסטוריה: כך AI משנה את פני החברה

שליטה במידע ככלי לעיצוב חברתי: מהעת העתיקה ועד עידן האלגוריתמים

לאורך ההיסטוריה, מנהיגים והוגים הבינו כי השליטה בזרימת המידע שקולה לשליטה בתודעה הקולקטיבית. החלטות עורכי כתבי הקודש בעת העתיקה לגבי אילו טקסטים ייכללו בקאנון הדתי עיצבו את ערכי היסוד של הציוויליזציה המערבית. בימי הביניים, הכנסייה השתמשה בצנזורה ככלי לחיזוק האמונות הדוגמטיות תוך דיכוי רעיונות מתחרים.

המעבר מהעולם האנלוגי לדיגיטלי חולל מהפכה ביחסי הגומלין בין האדם למידע. אם בעבר בחר האדם איזה מידע לצרוך, היום מודלי AI קובעים עבורנו:

• סינון תוכן לפי פוטנציאל משיכת תשומת לב
• הגברת מינונים של תוכן מעורר רגשות עזים
• יצירת בועות מידע המתאימות להטיות קוגניטיביות

כלכלת הקשב: הנפט החדש של המאה ה-21

תאגידי הטכנולוגיה הפכו את תשומת הלב האנושית למשאב כלכלי נסחר. פייסבוק, טיקטוק ופלטפורמות נוספות משתמשות במודלי AI כדי:

1. לנתח דפוסי התנהגות משתמשים
2. לחזות תוכן בעל פוטנציאל ויראלי
3. למקסם זמן שימוש דרך הפעלת מנגנוני גמול עצביים

מחקרים מראים שהאלגוריתמים התמחו בזיהוי נקודות תורפה פסיכולוגיות:

• זעם פוליטי מגביר מעורבות (engagement) ב-47% בהשוואה לתוכן ניטרלי
• תיאוריות קונספירציה מעלות את זמן הצפייה הממוצע ב-2.3 דקות
• תוכן מפלג מייצר אינטראקציות רבות יותר מתוכן מחבר

הקיטוב כתוצר לוואי אלגוריתמי

המערכות הלומדות יצרו מעגל קסמים מסוכן:

1. האלגוריתם מזהה שהגולש מגיב לתוכן מזין זעם
2. המערכת מגבירה חשיפה לתכנים דומים
3. הרגש השלילי מתגבר ומשנה את תפיסת המציאות

דוגמה בולטת היא האופן שבו דיווחים על רצח צ'רלי קירק טופלו ברשתות:

• משתמשים בעלי נטיות פוליטיות ימניות נחשפו בעיקר לתכנים על "חגיגות השמאל"
• משתמשים בשמאל הצביעו על "מגננה" בימין האמריקאי
• שני הצדדים קיבלו תמונה מעוותת שאינה משקפת את המורכבות האנושית

שקיעת היכולת לקונצנזוס חברתי

שני המרכיבים המרכזיים שפגעו ביכולת החברתית להגיע להסכמות:

זעם אופקי

הקיטוב בין קבוצות אידאולוגיות שונות, המוזן על ידי:

• תכנים קיצוניים המובלטים באלגוריתמים
• האשמת קבוצות אוכלוסייה שלמות בבעיות חברתיות
• יצירת נרטיבים מנוגדים ללא שפה משותפת

חשדנות אנכית

אובדן אמון במוסדות ציבוריים, המתבטא ב:

• עלייה בפופולריות של תיאוריות קונספירציה
• ירידה באמון במומחים ובממצאים מדעיים
• התנגדות סקטוריאלית לכל יוזמת חקיקה או רפורמה

הפתרון: עיצוב מחדש של אקולוגיית המידע

המודעות לנזקים החברתיים מתחילה לתת את אותותיה:

יוזמות מקומיות

• עיריית תל אביב מוציאה סמארטפונים מבתי הספר התיכוניים
• תנועות נוער מארגנות טיולים ללא מכשירים דיגיטליים
• הורים דוחים את גיל ההצטרפות לרשתות חברתיות

שינוי פרדיגמת הרגולציה

בעוד שאין מקום לצנזורה על יוצרי תוכן אנושיים, למקבלי ההחלטות יש תפקיד מפתח:

• תקנות לחברות הטכנולוגיה – דרישת שקיפות באלגוריתמי המלצה
• עיצוב מודלים המגבירים חשיפה למנעד רחב של דעות
• הפחתת תלות במדדי engagement כדומיננטיים להצלחה מסחרית

לקחים מההיסטוריה

ניתן ליישם תובנות ממשטרי מידע היסטוריים:

• עיקרון הגיוון האינטלקטואלי – כמו בנוסח המסורה היהודית ששמרה על פרשנויות מרובות
• איזון רגשי – עידוד תוכן המעורר סקרנות, אמפתיה והשראה לצד מידע מעורר מחשבה
• שקיפות בעריכה – בניגוד לעורכי העבר שפעלו מאחורי הקלעים, על האלגוריתמים להיות נתונים לבקרה ציבורית

הדרך קדימה: מאבק על נפשה של הציוויליזציה

המערכות הטכנולוגיות החדשות מציבות שני אתגרים מקבילים:

1. סיכון קיומי ארוך טווח – פיתוח מודלי AI העלולים לצאת משליטת האדם
2. משבר חברתי מיידי – שחיקת היכולת לשיתוף פעולה עקב פילוג מלאכותי

המפתח לפתרון נמצא בהבנה ששני האתגרים שלובים זה בזה. רק חברה המסוגלת ליצור קונצנזוסים ולייצר מנגנוני פיקוח משותפים תוכל להתמודד עם הסיכונים הטכנולוגיים הצומחים. הדוגמה מביקור הרגולטורים בפייסבוק בשנת 2020 מראה שניתן לשנות את התנהגות האלגוריתמים, אבל נדרשת רצינות פוליטית ותשומת לב ציבורית מתמשכת.

תהליך הריפוי מחייב מעבר מדיאטת מידע המבוססת על רגשות שליליים, לעבר אקולוגיה מגוונת המשלבת:

• ריבוי קולות – חשיפה מכוונת לנקודות מבט סותרות
• שיקום המוסדות – חיזוק מנגנוני גישור וגיבוש קונצנזוסים
• חינוך דור חדש – הטמעת אוריינות דיגיטלית ביקורתית משלב בית הספר היסודי

השעה דוחקת. אם לא נשכיל לרסן את כוחו העיוור של האלגוריתם, נישאר לכודים בתוך מציאות שבה הצדק תמיד בצד שלנו, האמת תמיד מרגישה נכונה, והדמוקרטיה הופכת ממנגנון לניהול מחלוקות – לזירה להעצמתן.