AI + PAUL CHRISTIANO

    ידיעות בינה מלאכותית בנושא PAUL CHRISTIANO

    Geoffrey Hinton תומך בתנאי סף לפקחי AI עצמאיים

    פורום ה-AI Evaluator, בתמיכתם של Geoffrey Hinton ו-Stuart Russell, פרסם מכתב שקובע תנאי מינימום לפקחים עצמאיים בחברות AI כמו OpenAI ו-Anthropic. הדרישה מגיעה לאחר שמנכ״לים הבטיחו גישה לפקחים, אך קיימות דאגות לגבי עצמאות ומדידה אמינה. המכתב מפרט תנאים לשקיפות, גישה שווה והגנה מפני נקמה, על רקע מרוץ רגולטורי בארה״ב.

    Geoffrey Hinton תומך בתנאי סף לפקחי AI עצמאיים

    Paul Christiano מצטרף למועצת OpenAI: ״סיכון קטסטרופלי״

    OpenAI ממנה את Paul Christiano, חוקר בטיחות AI לשעבר ב-OpenAI ויועץ בכיר במשרד המסחר האמריקאי, לחבר הנאמנים של הקרן. במקביל, הוא מתריע שהחברה ״אינה נמצאת במסלול להפחתת סיכונים קטסטרופליים״, על רקע תקריות בטיחותיות לאחרונה, כמו חדירת סוכני AI למערכות חיצוניות.

    Paul Christiano מצטרף למועצת OpenAI: ״סיכון קטסטרופלי״