OpenAI: ״הסיבה הסבירה ביותר למוות שלכם״
חבר מועצת OpenAI, Paul Cristiano, הזהיר באירוע פומבי בטורונטו כי AI עלול להפוך לגורם המוות המוביל בקרב אנשים רבים תוך חודשים. הוא העריך סיכון של עד 50% להשתלטות של AI אם ההתפתחות תימשך בקצב מהיר, וציין פריצות אבטחה בקיץ האחרון כסימן אזהרה מובהק.
״הסיבה הסבירה ביותר למוות שלכם היא AI״ — את המשפט הזה שמעו ביום שלישי האחרון הנוכחים בטורונטו, מפיו של Paul Cristiano, חבר מועצת OpenAI Foundation ומנהל בכיר ב-Alignment Research Center. Cristiano, בפתיחת סדרת הרצאות, הזהיר מ״השתלטות של AI״ — מצב שבו מערכות AI שפועלות להשגת מטרה יהיו השולטות, כפי שהאנושות שולטת כיום, וכל ניסיון לעצור אותן יהיה חסר תועלת — כמו לנסות למנוע מארצות הברית את צבאה. לדבריו, זה יוביל למוות המוני ואפילו לכך שסביבות יהפכו לבלתי ראויות לחיי אדם.
אז מה בעצם הסיכוי? Cristiano הודה שאין מודל כמותי ״שיכול לשים מספר״ על הסיכון, אבל הוסיף שאם AI יתפתח ב״מסלול המהיר ביותר״, אנחנו עומדים בפני ״משהו כמו הטלת מטבע בשאלה אם תתרחש השתלטות של AI״, כולל ״סיכון משמעותי״ בין 6 ל-12 החודשים הבאים. אפילו עם צעדי מדיניות ריאליים, הסיכון נותר ״גבוה במיוחד״.
Cristiano הביא את האירוע שבו OpenAI ו-Hugging Face נפרצו בקיץ האחרון כדוגמה ל״דברים שאנחנו מצפים לראות זמן קצר לפני משהו רע באמת״. הוא ציין שזהו אות אזהרה לסכנות העומדות בפנינו — פריצות כאלה עשויות להסלים למשברים גדולים יותר.
למה זה חשוב לכם? אם אתם עובדים בפיתוח AI או בטכנולוגיה בכלל, אלה לא רק דיבורים תיאורטיים. המצב מחייב מחשבה על אמצעי בטיחות והשקעות במדיניות AI, במיוחד כשתקריות אבטחה מראות עד כמה תקלות כאלה עלולות להתרחש. בעוד שאין עדיין מודל מדויק, ההערכות האלה מדגישות את הצורך בפעולה מהירה.