ארה״ב וסין פותחות דיאלוג על בטיחות AI
ארה״ב וסין יצרו מנגנון דיאלוג לבטיחות בינה מלאכותית מתקדמת, במיוחד לקראת פסגת APEC בשנזן. הדיון מתמקד בסיכוני ״superintelligence״, אך פערים משמעותיים בהגדרת ״תקלות מסוכנות״ — בין דגש על שליטה במערכות לבין דגש על יציבות התוכן — עלולים להפוך את שיתוף הפעולה לאתגר.
בינה מלאכותית מתקדמת עלולה לצאת משליטה, ושתי המעצמות מנסות למנוע תרחישים כאלה. ארה״ב וסין השיקו לאחרונה מנגנון חדש לדיאלוג על בטיחות AI, במיוחד סביב מה שמכונה ״superintelligence״ — מונח שממשל טראמפ מעדיף להשתמש בו.
מזכיר האוצר האמריקאי, Scott Bessent, ציין שהמנגנון מיועד להתמודד עם ״סיכונים משותפים״ ולמנוע אי־הבנות. זה קורה רגע לפני פסגת APEC בשנזן, שם צפויים Xi Jinping ו-Donald Trump לקיים את פגישתם הבילטרלית השלישית השנה.
אבל מומחים מזהירים שהשיחות עלולות להיתקל בקשיים: בעוד וושינגטון מודאגת מאובדן שליטה על מערכות AI, בייג׳ינג מתמקדת ביציבות התוכן ובתקנות הנוגעות אליו. הגדרות שונות של אירועי בטיחות ״רציניים״ מקשות על שיתוף פעולה אפקטיבי. הפסגה מתקרבת, והשאלה הגדולה היא אם הצדדים יסכימו על הקריטריונים.