מנכ"ל Anthropic: AI עלול להיות סיכון לאנושות

בעוד דונלד טראמפ מכנה את הפיקוח הבינלאומי על בינה מלאכותית "תוכנית גלובליסטית" ומדבר על "סופר-אינטליגנציה", בכירי תעשיית ה-AI בארה"ב נושאים דברים באו"ם ומתריעים מפני משבר קיומי.

המפגש באו"ם: סתירה ברורה ב-23 בספטמבר 2026, נשיא ארה"ב טראמפ נאם בעצרת הכללית של האו"ם ופסל על הסף את הרעיון של פיקוח בינלאומי על בינה מלאכותית. לאחרונה הוא כינה את הבינה המלאכותית "סופר-אינטליגנציה". לדבריו, הצעות כאלה הן "תוכנית גלובליסטית" שנועדה לשלוט בטכנולוגיה. כמה שעות קודם לכן, מזכ"ל האו"ם, אנטוניו גוטרש, קרא דווקא להגביר את הפיקוח והזהיר מ"רובוטים קטלניים" ומהפוטנציאל לנזק קטסטרופלי ובלתי הפיך.

יום למחרת: המנכ"לים מתערבים למחרת, ב-24 בספטמבר, הופיעו בפני מועצת הביטחון של האו"ם – הגוף החשוב ביותר בעולם לענייני ביטחון – מנכ"ל OpenAI, סם אלטמן, ומנכ"ל Anthropic, דריו אמאדי. הם באו עם מסר הפוך לחלוטין משל הנשיא האמריקאי, וקראו למדינות העולם לשתף פעולה כדי לנהל את הסיכונים של AI.

"בהיסטוריה שלנו, היו זמנים שבהם מדינות שמתחרות ולא תמיד מחבבות זו את זו עדיין מתאחדות למען אינטרסים משותפים והטוב הקולקטיבי מול טכנולוגיה חדשה ועוצמתית", אמר אלטמן. "אנו מאמינים שזה חייב להיות אחד מאותם זמנים".

האזהרות החמורות השניים לא חסכו מילים חריפות באשר לסכנות. אמאדי, שחברת Anthropic עוסקת במחקר בטיחות AI, אמר: "אם ננהל את זה בצורה גרועה, אני מאמין ש-AI יכול להיות סיכון לאנושות כולה".

אלטמן הצטרף לאזהרה: "אנו עלולים לאבד ל-AI את השליטה בעתיד. הסיכון הוא שהטכנולוגיה תתפתח כל כך מהר שאנשים כבר לא יוכלו לעקוב אחרי מה שקורה או להתערב כשצריך. זה כמובן יהיה נורא".

דבריו של אלטמן מתחברים לאזהרה קודמת שלו, שלפיה AI עלול "להיות יותר כמו מהפכה תעשייתית של אי-שקט ומערבולת" אם לא ינוהל נכון.

הרקע: מומנטום גובר לבטיחות הופעתם באו"ם באה על רקע דאגה גוברת בעולם הטכנולוגיה. מוקדם יותר החודש, עורר אמאדי סערה כשהציע להאט את קצב פיתוח ה-AI. אלטמן, היריב הראשי של אמאדי, הסכים איתו בפומבי על הצורך "להאט את קצב הפיתוח של טכנולוגיית הקצה". חברות כמו OpenAI ו-Anthropic נתונות לאחרונה לביקורת חריפה מצד חוקרים בתעשייה, שטוענים של-AI יש פוטנציאל גובר לגרום לנזק קטסטרופלי.

הדיון באו"ם נועד לעצב שיתוף פעולה בינלאומי בנושא ממשל AI, ולהשפיע על שיחות בין ארה"ב לסין בנוגע לסיכוני הטכנולוגיה ולתגובה של ממשלות לאיומי ביטחון לאומי ש-AI חזק עלול להציב.

מה באמת השתנה כאן? למעשה, אנו עדים לרגע מכונן בדיון הגלובלי על AI. מצד אחד, מנהיג המעצמה הגדולה בעולם דוחה פיקוח רב-לאומי ומציג גישה לאומנית. מצד שני, ראשי החברות שמפתחות את הטכנולוגיה העוצמתית הזו – אלה שנמצאים בלב הסערה – מגיעים לפורום הבינלאומי הגבוה ביותר וטוענים שזה לא בסדר, ושחייבים לפעול יחד.

מבחן התוצאה: ההתנגשות הזו מעידה על שסע עמוק בגישה ל-AI. בעוד ממשלות מסוימות מתקשות לפתח כללים, היכולות של AI מתקדמות בקצב מהיר יותר. התעשייה מפחדת לאבד שליטה, וגם מפחדת מאובדן אמון ציבורי אם תאונות יקרו.

מה ההשפעה עלינו? עבור אנשי ההייטק בארץ ובעולם, זו לא עוד ידיעה רחוקה. ההחלטה אם יהיה פיקוח בינלאומי, או שמדינות ילכו כל אחת לדרכה, תשפיע ישירות על שוק העבודה, על החדשנות, על ההזדמנויות ועל הסטנדרטים שאתם מתבקשים לעמוד בהם. חברות AI ישראליות, שגם עוסקות בפיתוחים מתקדמים, צופות בזירה הזו מקרוב.

בסופו של דבר, נאומו של טראמפ והאזהרות של אלטמן ואמאדי מסמנים שתי דרכים שונות קדימה. הראשונה מובילה ל-AI כנכס לאומי, תחת בקרה מינימלית. השנייה מנסה להקים מנגנונים בינלאומיים שיאטו את המרוץ – אולי מתוך פחד אמיתי שהטכנולוגיה עלולה לצאת משליטה.

מנכ"ל Anthropic סיכם: "יש לנו אפשרות. AI יכול להיות כמו רנסנס חדש של יצירתיות וגילוי, או כמו מהפכה תעשייתית של תוהו ובוהו".

ופתאום, זה נשמע קצת כמו פינג-פונג: טראמפ צועק "גלובליזם!" וראשי המעבדות צועקים "סכנה!" – ואתם, הציבור, תקועים באמצע ושומעים את האזעקות.