מי שולט ב-AI שלכם? האו״ם מתריע על גל חדש של קולוניאליזם

תמונה אחת שווה אלף סטריאוטיפים

תשאלו מודל AI לייצר תמונה של ילידים — וסביר שתקבלו דמויות עם נוצות וחרוזים, כמו מתוך ברושור תיירותי. התשובה הזו לא מגיעה במקרה: היא משקפת את מה שהמערכת למדה, את הדאטה שהיא אומנה עליו, ואת השאלה: מי בכלל החליט מה נכנס לשם?

ב-3 בספטמבר פרסמו חוקרי האו״ם Gio Lugo Miole (פוסט-דוקטורט באוניברסיטת טוקיו ובמכון UNU-IAS) יחד עם Jonghwi Park (ראש תחום חדשנות וחינוך ב-UNU-IAS) מאמר שמעלה את הנושא לסדר היום בצורה חריפה. המסר המרכזי: AI לא רק מחקה את העולם — הוא משחזר דפוסים קולוניאליים, הפעם בצורה דיגיטלית.

אז מה בעצם קרה פה?

המאמר של האו״ם מתמקד בקבוצת אוכלוסייה שמרבית תעשיית ה-AI פשוט מתעלמת ממנה: יותר מ-476 מיליון ילידים ברחבי העולם — כ-6.2% מאוכלוסיית הגלובוס. הם מייצגים אלפי קהילות, מדברים לפי ההערכות בכ-7,000 שפות, ומשמשים בין השאר כשומרי סביבה, מדענים ושומרי היסטוריה. רבים מהם חיים באזורים שחיוניים למגוון הביולוגי העולמי.

החוקרים טוענים שמערכות AI שקיימות היום פשוט לא הכירו בהם. אם ילידים ושפות ילידים מיוצגים בצורה גרועה בדאטה שמשמש לבניית המערכות, ה-AI מוחק את הגיוון של אלפי קהילות נפרדות ומצמצם אותן לייצוגים סטריאוטיפיים ספורים.

״AI יכול לתמוך בחינוך, בתפוקה ובמשילות — ואפילו בשפות מיעוט ובתרבויות בסכנת הכחדה. אבל יש לו גם עלויות סביבתיות, והוא מסכן חילוץ נתונים ללא הסכמה וצמצום ידע ילידי ל׳מידע׳ שאפשר לעבד ולסנתז״, נכתב במאמר.

ריבונות AI: מילת הבאזז שהכי קשה להגדיר

במקביל, בתעשיית ההייטק, מושג חדש תופס תאוצה — ״ריבונות AI״ (Sovereign AI). הבעיה? כמעט אף אחד לא באמת יודע מה זה אומר.

סקרים שפורסמו לאחרונה מראים תמונה מטרידה: רק 13% מהמשיבים אומרים שהמונח מובן בארגון שלהם, ושליש ממנהיגי ה-IT מתקשים להגדיר אותו בעצמם. זה לא נתון שולי — זה אומר שארגוני ענק מנהלים מהלכים אסטרטגיים בתחום שהם לא מבינים לעומק.

Joelle Pineau, Chief AI Officer ב-Cohere (פלטפורמת AI שמאפשרת ללקוחות לארח מודלים On-Premises), מסבירה שמדובר קודם כל בבחירה. ״הרעיון של ריבונות באמת נועד לתת למשתמש שליטה על ה-stack הטכנולוגי שלהם — היכולת לבחור איך הוא מוטמע, איך הוא עובד, איזה דאטה נכנס למערכת, ואיך העובדים נחשפים לטכנולוגיה״, היא אומרת.

Berk Yilmaz, המייסד-שותף וה-CTO של Noah Labs (סביבת פיתוח AI), מפרק את המושג לחמישה מרכיבים:

• ריבונות דאטה — מי מחזיק ומנהל את המידע
• סמכות שיפוט — איזה חוק חל על המערכת
• מקוריות המודל — מאיפה המודל הגיע ומי בנה אותו
• שליטה תפעולית — מי מפעיל ומנהל את המערכות ביום-יום
• עצמאות שרשרת אספקה — לא להיות תלוי בספקים חיצוניים קריטיים

״מענה על אחד מהם לא אומר שמילאת את האחרים״, מציין Yilmaz. ״שני מנהלים יכולים להסכים על ׳ריבונות AI׳ בלי שום מכנה משותף בפועל.״

למה זה רלוונטי עכשיו?

כי בשנה האחרונה קרו דברים שפעם היו נראים הזויים:

• מודלים שנחסמו לפתע למשתמשים
• ספקיות שניתקו חוזים בלי התרעה
• תקריות סייבר שחשפו עד כמה התלות בתשתיות חיצוניות שברירית

״המודל הריבוני מתפקד היטב גם כשמפסיקים את הגישה למודל, כשהמודל שלך נכנס לרשימת החסומים לייצוא, או כשהחיבור מנותק״, אומר Yilmaz. ״כל אחד משלושת התרחישים האלו כבר התרחש איפשהו בעולם בשנה האחרונה.״

החוקרים מהאו״ם מרחיקים לכת מעבר לניהול סיכונים ארגוני. הם טוענים שבעבור ילידים, ״ששטחיהם, הידע שלהם, השפות שלהם והגופים שלהם נחקרו ונוהלו על ידי זרים במשך מאות שנים — AI עלול לשחזר דפוסים קולוניאליים בצורה טכנולוגית״.

המונח המקצועי לכך הוא Indigenous Data Sovereignty — IDS — זכותן של קהילות ילידים לשלוט באופן שבו נאסף עליהן דאטה, בבעלות עליו, בגישה אליו, בפרשנותו ובשימוש בו. זה מתקשר ישירות להצהרת האו״ם על זכויות ילידים (UNDRIP), שכבר קיימת, אבל מצריכה עכשיו כלים חדשים לעולם ה-AI.

דוגמאות מהשטח

החוקרים מצביעים על יוזמות שכבר קיימות:

• פרויקט First Languages AI Reality של Mila בקנדה, שמובל על ידי חברי קהילות First Nations ומטרתו לבנות Indigenous Voice AI על בסיס ריבונות דאטה ושיקום לינגוויסטי
• יוזמת Common Voice של Mozilla, שמאפשרת לקהילות שפות Formosa ולקהל מתנדבים לעזור לעצב טכנולוגיית דיבור — לא כמשתתפים פסיביים, אלא כמעצבים פעילים של הטכנולוגיה שמתמודדת עם הזהות שלהם

מה זה אומר עליכם?

למי שעובד בתעשיית ה-AI הישראלית — וזה כנראה כולנו — השיחה הזו רלוונטית יותר משנדמה. ישראל משווקת מוצרים ופתרונות AI לשוק הגלובלי, ומערכות שאנחנו בונים מטפלות בדאטה מתרבויות שונות, שפות שונות וקהילות עם הקשרים היסטוריים מורכבים.

השאלה ״מה מוגדר כ׳נורמלי׳ ב-AI״ קשורה ישירות למי שהדאטה שלו נכנס לתוך המודל. אם אתם עובדים על מוצר שמטפל בנתוני תקשורת, בריאות או חינוך — כדאי להבין שהנחת ה-default שלכם היא לא באמת ברירת מחדל גלובלית.

ב-8 באוגוסט, יום הילידים הבינלאומי, האו״ם מזמין את כולנו לשאול אם מדיניות ה-AI הגלובלית נותנת דין וחשבון לקהילות הללו. השאלה אם מישהו בתעשייה הישראלית שומע את הקריאה הזאת — זה כבר עניין אחר.

מנהלי IT רוצים עצמאות אסטרטגית בתחום ה-AI, חוששים מ-vendor lock-in, צריכים לשלוט בעלויות ורוצים פתרונות מותאמים ללוקליזציה. עכשיו גם האו״ם מזכיר שהדיון הזה כולל גם את האנשים שה-AI לא מכיר. כש-13% בלבד מבינים את המושג, ו-476 מיליון איש משלמים את המחיר — הוויכוח הזה רק מתחיל.

בסוף, אם תשאלו את CIO.com, מומחי יחסים בינלאומיים טוענים שעצמאות טכנולוגית מלאה היא לעתים רחוקות מעשית. אבל זה לא אומר שצריך לוותר. כמו ש-Pineau אומרת, ״הרעיון הוא יותר על שמירת אפשרויות כשמשהו בלתי צפוי קורה״. בעולם שבו בשנה אחת ראינו גם חסימת מודלים וגם ניתוקי ספקים — מי שאין לו תוכנית B, כדאי שיתחיל לבנות אחת.