דו"ח האו"ם: חלון הפיקוח על AI נסגר והפערים הגלובליים מתרחבים

האו"ם פרסם השבוע את הערכת המדע הגלובלית העצמאית הראשונה בתחום הבינה המלאכותית, והמסרים מדאיגים: הפיתוח המואץ של AI עלול להרחיב את האי-שוויון העולמי, והחלון לסגירת פערים רגולטוריים הולך ונסגר.

מהו הדוח ולמי הוא מיועד?

ההערכה נכתבה על ידי פאנל בינלאומי של 40 מומחים מרחבי העולם, שהוקם על ידי העצרת הכללית של האו"ם בשנת 2025. הדוח בוחן את ההשפעות של AI על תחומים רבים — בריאות, חינוך, כלכלה, ביטחון, זכויות אדם וממשל — ונועד לשמש בסיס מדעי אחיד לדיונים על ממשל תקין של הטכנולוגיה.

מזכ"ל האו"ם, António Guterres, אמר במסיבת עיתונאים כי "ככל שה-AI מתקדם בלי כללים משותפים, לממשלות ולציבור תהיה פחות שליטה על התוצאה." הוא הוסיף מסר ישיר לממשלות: "אל תחכו — המדע כאן. אי אפשר יותר לומר ש'לא ידענו'."

קצב התקדמות חסר תקדים

הדוח מציין כי התעשייה מתקדמת במהירות יוצאת דופן. מודל AI גנרטיבי מסוגל כיום לכתוב תוכנה, לנתח מאגרי מידע עצומים, לייצר תמונות וסרטונים מציאותיים, ולסייע בגילויים מדעיים.

תחום חדש המדאיג במיוחד את הפאנל הוא AI אגנטי — מערכות שבהן סוכני AI מסוגלים לבצע משימות מורכבות עם מינימום התערבות אנושית. על פי הפאנל, הקושי של המשימות שמערכות אלה יכולות להתמודד עמן מכפיל את עצמו כל כמה חודשים. ככל שה-AI נעשה אוטונומי יותר, קשה יותר לפקח ולשלוט בו בלי אמצעי הגנה חזקים.

סיכונים גדלים והולכים

הדוח מצביע על מספר סיכונים מרכזיים:

• חומרי תקיפה מינית ודיפ-פייקים: AI משמש ליצירת חומרי התעללות מינית ודיפ-פייקים מפורטים, ונשים וילדים הם הנפגעים העיקריים.
• דיסאינפורמציה: הטכנולוגיה הופכת מידע מטעה למשכנע יותר וקשה יותר לזיהוי, מה שפוגע באמון הציבור ובשיח הדמוקרטי.
• איומי סייבר: עבריינים משתמשים ב-AI להונאות ולהנדסה חברתית.
• בריאות הנפש: AI תורם למשברי נפש במשתמשים פגיעים, כולל תרומות לאובדנות.
• סביבה: מרכזי הנתונים שמניעים את AI הם מקור הולך וגדל לפליטת גזי חממה.

גם בשורות חיוביות

לצד האזהרות, הדוח מציין גם תועלות משמעותיות. מודלים של AI מיפו את המבנה של למעלה מ-200 מיליון חלבונים, וזירזו גילוי תרופות, מחקר חיסונים ועבודה על עמידות לאנטיביוטיקה. הטכנולוגיה מסייעת גם בזיהוי אי-ביטחון תזונתי לפני שהוא הופך למשבר, ומרחיבה גישה לחינוך, תמיכה נפשית וכלים לאנשים עם מוגבלויות.

פער דיגיטלי גלובלי

אחד הממצאים המדאיגים ביותר נוגע לחלוקת הכוח הגלובלית. הדוח מעריך שארצות הברית שולטת בכ-75% מכוח המחשוב מאחורי העל-מחשבים המובילים בעולם, וסין מחזיקה בכ-15%. כלומר, שתי המדינות הללו מחזיקות יחד בכ-90% מהקיבולת הזו.

מדינות מתפתחות, לעומת זאת, חסרות את הכישרונות, התשתית והתקציב לבנות או לבקר את מערכות ה-AI שהן משתמשות בהן. הפאנל מזהיר כי ללא מאמץ לסגור את הפער, AI עלול להרחיב את האי-שוויון העולמי במקום לצמצם אותו.

אתגרי הרגולציה

הדוח מזהה "דילמת ראיות" בתחום הרגולציה: מחוקקים זקוקים לנתונים מוצקים כדי לנסח כללים יעילים, אך AI מתפתח מעבר לנתונים הללו עוד לפני שהם נאספים.

כיום קיימות למעלה מ-40 מסגרות ממשל ל-AI ברחבי העולם, אך הפאנל מתאר אותן כמפורקות, לא עקביות ולעיתים נדירות נבדקות לגבי יעילותן. מרבית בדיקות הבטיחות עדיין מתבצעות על ידי אותן חברות שבונות את הטכנולוגיה, מה שמעלה שאלות לגבי עצמאות הבדיקות.

מה הלאה?

הפאנל קורא להקמת מנגנוני הערכה עצמאיים חזקים יותר, תיאום בינלאומי משותף ותקנים אחידים. בנוסף, הוא מדגיש את הצורך בהשקעה כדי שמדינות יוכלו לפתח את המומחיות והתשתיות הדרושות לניהול AI בתנאים שלהן.

הממצאים ישמשו כבסיס לדיאלוג הגלובלי של האו"ם על ממשל AI, שייפתח בז'נבה ב-6 ביולי 2026, שם חברות האו"ם ידונו בגישות מתואמות בינלאומית לניהול הטכנולוגיה.