צ'רלס השלישי: "AI עלול לאבד שליטה אם לא נפעל"

הפסגה ההיסטורית ב-Dumfries House

ביום חמישי, 17 בספטמבר 2026, קרה דבר יוצא דופן בעולם ה-AI: המלך צ'רלס השלישי כינס פסגה פרטית ב-Dumfries House, אחוזה מפוארת בסקוטלנד שבבעלות קרן הצדקה שלו. לפסגה הוזמנו השמות הכי גדולים בתעשיית הבינה המלאכותית: מנכ"ל Nvidia ג'נסון הואנג, מנהיגים מ-OpenAI, Anthropic ו-Google DeepMind, וכן בכירים בממשלת בריטניה, כמו השר הממונה על תחום ה-AI, קנישקה נאראיאן. אפילו יועץ ה-AI של האפיפיור, פאולו בננטי, נכח במקום – שילוב שמשקף את הדאגה הרב-תחומית שטכנולוגיה זו מעוררת.

מה המלך רוצה מחברות ה-AI?

הפסגה נועדה לדון באופן שבו ניתן לפתח ולהטמיע AI באופן שמועיל לחברה ולסביבה. אך מהר מאוד הפך הדיון לאזהרות חריפות. בנאומו, המלך צ'רלס לא חסך במילים: "התפתחות ה-AI – הן בתוכן והן בקצב – מסקרנת ומעוררת דאגה במידה שווה," הוא אמר. "אלה בעולמנו שמעריכים את האנושיות שלנו ואת הרכיב המוסרי החיוני שלה, מבקשים מכם בדאגה להבטיח שלא נאבד שליטה על הגורל שלנו."

הוא הוסיף: "המשימה שלכם היא לא רק לקדם טכנולוגיה, אלא להבטיח שהיא תישאר בשירות האנושיות והכוכב שלנו." הציטוטים הללו מראים שהמלך מתייחס ברצינות לסיכונים, ולא רק כחלק מטקס דיפלומטי.

"סכנות קיומיות" ו"אובדן שליטה"

המלך הזהיר במפורש מפני "הסכנות הקיומיות" של AI במקרה שייפול לידיים הלא נכונות. הוא ציין שמי שפיתחו את הטכנולוגיות הללו מתריעים כעת יותר ויותר על הסיכונים ש-AI יפתח "יכולות אפלות יותר – אולי אפילו ייטול חיים". לדבריו, נראה שיש צורך דחוף באמצעי שליטה מספקים "לפני שיהיה מאוחר מדי."

דבריו מגיעים על רקע התרעות דומות מגורמים אחרים. רק לאחרונה הזהיר מזכ"ל האו"ם אנטוניו גוטרש שפיתוח ה-AI דורש תיאום עולמי, ומחוקקים בוושינגטון החלו לדון בפיקוח פדרלי חזק יותר.

הקשר: גל האזהרות מתוך התעשייה

פסגה זו מתרחשת על רקע גל הולך וגובר של אזהרות מתוך תעשיית ה-AI עצמה. מנהיגים כמו דריו אמודי, מנכ"ל Anthropic, פרסמו לאחרונה מאמרים הקוראים להאט את קצב הפיתוח. בנוסף, קולות פנימיים הולכים וגוברים – לאחרונה, עובד לשעבר ב-Anthropic, ג'ייקוב קוקסון, פרש בפומבי במחאה על קצב הפיתוח המסוכן, מה שעורר דיון ציבורי.

ב-Anthropic עצמה יש הכרה בסיכונים: בדיווחים נאמר שהמנכ"ל אמודי ציין שיש סיכוי של יותר מ-10% שבינה מלאכותית על-אנושית "תהרוג את כל בני האדם" בעשר השנים הקרובות, וכי החברה אינה יכולה להבטיח הלימה לערכים אנושיים.

מי עוד נכח? לא רק חברות טכנולוגיה

מלבד מנהיגי חברות הטכנולוגיה, הפסגה כללה גם את ראש שירותי המודיעין החיצוני של בריטניה, מה שמדגיש את ההיבטים הגיאופוליטיים והביטחוניים של ה-AI. הנוכחות של יועץ הוותיקן מצביעה על הדאגה המוסרית והאתית שהטכנולוגיה מעוררת. זהו שילוב נדיר של טכנולוגיה, ממשל, מודיעין ודת – שילוב שמשקף את הרב-גוניות של הנושא ואת הדחיפות שבה הוא נדון ברמות הגבוהות ביותר.

אז מה בעצם קרה כאן?

הפסגה לא נועדה לחתום על הסכמים פורמליים, אלא לקיים דיון עקרוני וראשוני. עם זאת, העובדה שמלך בריטניה מכנס פסגה כזו ומדבר במונחים כה חריפים על סכנות ה-AI, משקפת את הדחיפות שהממשלה הבריטית וגורמים אחרים מייחסים לנושא. זוהי קריאה לתעשיית ה-AI לקחת אחריות, לא רק לחדשנות אלא גם לבטיחות – קריאה שמגיעה ממוסד רשמי ובעל השפעה.

מה הלאה? שאלות פתוחות

נותר לראות אם קריאות כאלה יובילו לפעולות קונקרטיות יותר, כמו רגולציה בינלאומית או האטה מרצון של פיתוח ה-AI בידי החברות. בינתיים, תעשיית ה-AI ממשיכה להתקדם בקצב מסחרר, והשאלה אם ניתן יהיה לשלוט בה נותרת פתוחה. חברות כמו Nvidia, OpenAI ו-Anthropic נמצאות בלב המירוץ הזה, וההחלטות שלהן עשויות להשפיע על עתיד הטכנולוגיה.

כשהמלך צ'רלס מדבר על "אובדן שליטה על הגורל שלנו", קשה שלא לתהות: האם חברות ה-AI ייקחו את הדברים לתשומת לבן, או שמא הדאגות המלכותיות יישארו בגדר דיבורים בלבד – תרחיש שבו אפילו מלכים מתקשים לרסן את הקדמה.