שופטים פדרליים נעזרו ב-AI שזייף תיקים - מדענים קוראים לאיסור גלובלי על סופר-אינטליגנציה
שופטים פדרליים בארה"ב השתמשו ב-AI שזייף ציטוטים ותיקים משפטיים, בעוד מדעני AI מובילים מזהירים שחברות טק משחקות "רולטה רוסית" עם עתיד האנושות. קואליציה בינ"ל קוראת להטיל איסור על פיתוח סופר-אינטליגנציה בדומה לאמנת מונטריאול. בין התומכים: חלוצי AI, האפיפיור ויועצי טראמפ לשעבר.
האזהרה הברורה ביותר: AI מזייף תיקים משפטיים ועלול לחסל את האנושות
שני שופטים פדרליים בניו ג'רזי ומיסיסיפי הודו השבוע כי השתמשו ב-בינה מלאכותית לניסוח מסמכים משפטיים - שהכילו ציטוטים בדויים ובעלי דין בדיוניים. הפרשה מעוררת חשש כבד לגבי השימוש בכלי AI בתחומים קריטיים כמו מערכת המשפט, ומגיעה בד בבד עם קריאות חריפות להפסקת פיתוח סופר-אינטליגנציה.
"רולטה רוסית עם עתיד האנושות"
פרופ' סטיוארט ראסל, חלוץ AI מברקלי, מזהיר ש-חברות הטכנולוגיה הגדולות משחקות "רולטה רוסית" עם גורל האנושות במרוץ שלהן לפיתוח מערכות בעלות תבונה על-אנושית. לדבריו, "מנכ"לים המובילים את המירוץ מודים בסיכוי של 10%-30% להשמדת האנושות - ועדיין דוחפים קדימה ללא בקרה".
"אם תיצרו ישויות חזקות יותר מבני אדם ללא יכולת לשלוט בהן - אתם מבקשים צרות" - פרופ' ראסל ב-CNBC
קריאה גלובלית לאיסור סופר-אינטליגנציה
במאמר דעה ב-TIME מציעים מחברים מ-קואליציה בין-לאומית של מדענים, מנהיגים דתיים ופוליטיקאים לאמץ את מודל "פרוטוקול מונטריאול" שאיפשר ב-1987 איסור גלובלי על גזים פוגעי אוזון:
- סופר-אינטליגנציה (AI העולה על האדם בכל תחום קוגניטיבי) עלולה להיות בלתי ניתנת לשליטה
- חברות כמו OpenAI, Anthropic וגוגל משקיעות מיליארדים במרוץ מסוכן
- למעלה מ-900 דמויות ציבוריות - מדונלד טראמפ עד האפיפיור - חתמו על הקריאה להפסקת הפיתוח
"איננו מבינים את המערכות שיצרנו"
אפילו דריו אמודאי, מנכ"ל Anthropic, מודה כי "אנחנו מבינים רק 3% מאיך מערכות AI מתקדמות פועלות". החוסר בשקיפות מכשיל כל ניסיון לתקנה אפקטיבית:
- אלגוריתמים מסוג Large Language Models פועלים באמצעות טריליוני פרמטרים שמווסתים באופן אקראי
- ראסל: "מי שחושב שהוא מבין את מה שקורה בתיבת האלקטרוניקה הזו - מטעה את עצמו"
הזדמנות היסטורית לאיחוד גלובלי
מול סכנת הכחדה פוטנציאלית, קובע המאמר ב-TIME כי "איש לא רוצה לקחת חלק בניסוי שעלול למחוק את המין האנושי". הקריאה להפסיק את המירוץ אחר AI בלתי נשלט כבר איחדה כוחות מפתיעים:
- סטיב ווזניאק (מייסד אפל) לצד יושוע בנגיו (חלוץ AI)
- נסיכים בריטיים לצד יועצים לשעבר של טראמפ
- ארגונים דתיים לצד מדעני AI מובילים
"מדובר בנושא הגיוני שמאחד אנשים מכל הקשת הפוליטית. השאלה היחידה היא: האם נספיק לעצור את זה בזמן?"