האו״ם מזהיר: AI עלול להרחיב אי-שוויון

הדו״ח המדעי הראשון של האו״ם על AI: לא מה שחשבתם

האו״ם פרסם השבוע את ההערכה המדעית העצמאית הראשונה שלו בתחום הבינה המלאכותית – ומדובר במסמך שמעלה יותר שאלות מתשובות. 40 מומחים מרחבי העולם קובצו כדי לנתח את ההשפעות של AI, והמסקנות שלהם מחייבות כל מי שעובד בתחום לשבת רגע ולהקשיב.

מה בעצם מצא הדו״ח?

קודם כל, הקצב. ה-AI מתקדם במהירות יוצאת דופן – מודלים גנרטיביים כבר כותבים קוד, מנתחים מאגרי נתונים ענקיים, יוצרים תמונות ווידאו ריאליסטיים, ואפילו מסייעים בגילויים מדעיים. אבל זה לא נעצר כאן: ה-AI האג׳נטי (Agentic AI), שבו סוכנים דיגיטליים יכולים לבצע משימות מורכבות כמעט בלי התערבות אנושית, הולך צעד נוסף קדימה.

לדברי הפאנל, הקושי של המשימות שהמערכות האלה מסוגלות להתמודד איתן מכפיל את עצמו כל כמה חודשים. ככל שה-AI נעשה יותר אוטונומי, כך קשה יותר לפקח עליו ולבקר אותו בלי מנגנוני הגנה חזקים יותר.

הסיכונים: לא רק תיאורטיים

הדו״ח לא מתמקד רק בפוטנציאל – הוא מפרט סיכונים קונקרטיים שכבר כאן. בין היתר:

• שימוש לרעה בתוכן מיני: AI משמש ליצירת חומרי התעללות מינית ו-deepfakes מפורטים, כשנשים וילדים הם הנפגעים העיקריים.
• דיסאינפורמציה: AI הופך מידע מטעה למשכנע יותר וקשה יותר לזיהוי, מה שפוגע באמון הציבור ובשיח הדמוקרטי.
• איומי סייבר: פושעים משתמשים ב-AI להונאות ולהנדסה חברתית.
• בריאות נפשית: מערכות AI תורמות למשברים נפשיים, כולל מקרי התאבדות, בקרב משתמשים פגיעים.
• השפעה סביבתית: מרכזי הנתונים שמזינים את ה-AI הם מקור גדל והולך של פליטות גזי חממה.

אבל יש גם צד חיובי

הדו״ח לא עוסק רק בקטסטרופות. הוא מציין יתרונות משמעותיים:

• מיפוי מבנה של למעלה מ-200 מיליון חלבונים, מה שמזרז גילוי תרופות, מחקר חיסונים ועבודה על עמידות לאנטיביוטיקה.
• זיהוי מוקדם של אי-ביטחון תזונתי לפני שהוא הופך למשבר מלא.
• הרחבת גישה לחינוך, תמיכה בבריאות נפשית וכלים לאנשים עם מוגבלויות.

האי-שוויון: מי שולט במשחק?

זה החלק שהכי חשוב לישראלים שעובדים בתעשייה. הדו״ח מעריך שארצות הברית שולטת בכ-75% מכוח המחשוב מאחורי מחשבי-העל המובילים בעולם בתחום ה-AI, וסין מחזיקה ב-15%. בסך הכול, שתי המדינות האלה אחראיות ל-90% מהיכולת הזו – והמודלים המתקדמים ביותר נבנים על ידי חברות שבסיסן באותן שתי מדינות.

מדינות מתפתחות, לעומת זאת, חסרות את הכישרונות, התשתית והמימון כדי לבנות או לבקר את מערכות ה-AI שהן משתמשות בהן. הפאנל מזהיר: בלי מאמץ לסגור את הפער הזה, AI עלול להרחיב את האי-שוויון הגלובלי.

פער הרגולציה

כשזה מגיע להסדרה, הדו״ח מצביע על "דילמת הראיות": מחוקקים צריכים נתונים מוצקים כדי לכתוב כללים יעילים, אבל AI לרוב מתפתח מעבר לנתונים האלה לפני שהם בכלל נאספים.

יותר מ-40 מסגרות של ממשל AI קיימות כיום ברחבי העולם, אבל הפאנל מתאר אותן כמפוצלות, לא עקביות ולעיתים רחוקות נבדקות אם הן בכלל עובדות. חלק גדול מבדיקות הבטיחות עדיין מתבצע על ידי אותן חברות שבונות את הטכנולוגיה, מה שמעלה שאלות על עצמאות.

הפאנל קורא להערכות צד שלישי חזקות יותר, תיאום בינלאומי גדול יותר ותקנים משותפים, לצד השקעה כדי שמדינות יוכלו לפתח את המומחיות והתשתית הדרושות לשלוט ב-AI בתנאים שלהן.

מה הלאה?

הממצאים האלה ישמשו כבסיס ל-UN Global Dialogue on AI Governance, שצפוי להיפתח בז׳נבה ב-6 ביולי 2026. שם, מדינות חברות ידונו בגישות מתואמות בינלאומיות לניהול הטכנולוגיה.

לישראלים שעובדים בתחום – מה זה אומר?

אם אתם חלק מתעשיית ה-AI הישראלית, הדו״ח הזה נוגע לכם ישירות. הריכוז של כוח מחשוב בארה״ב ובסין משפיע על כל שרשרת האספקה – מתקציבי מחקר ועד לגישה למשאבים. ישראל, עם תעשיית ה-AI היצירתית שלה, יכולה להיות שחקנית חשובה בדיון על תקנים בינלאומיים, אבל רק אם הממשלה והתעשייה יהיו מוכנים להשקיע בתשתיות הערכה עצמאיות.

בינתיים, ה-AI ממשיך לכתוב קוד – אם ירצה או לא.