Geoffrey Hinton תומך בתנאי סף לפקחי AI עצמאיים
פורום ה-AI Evaluator, בתמיכתם של Geoffrey Hinton ו-Stuart Russell, פרסם מכתב שקובע תנאי מינימום לפקחים עצמאיים בחברות AI כמו OpenAI ו-Anthropic. הדרישה מגיעה לאחר שמנכ״לים הבטיחו גישה לפקחים, אך קיימות דאגות לגבי עצמאות ומדידה אמינה. המכתב מפרט תנאים לשקיפות, גישה שווה והגנה מפני נקמה, על רקע מרוץ רגולטורי בארה״ב.

רגע, אז מה בעצם קרה כאן? בעולם ה-AI, שבו חברות כמו OpenAI ו-Anthropic מריצות מודלים שמשנים את המשחק, יש דרישה חדשה לפיקוח רציני. פורום ה-AI Evaluator, שכולל גופי פיקוח כמו METR, פרסם ביום שישי מכתב שקובע תנאי מינימום לפקחים עצמאיים שיוטמעו בתוך חברות ה-AI. בין החתומים על המכתב נמצאות דמויות כמו Geoffrey Hinton — שמכונה ״סנדק ה-AI״ — ו-Stuart Russell, שניים מהחוקרים המשפיעים בתחום. הדבר קורה לאחר שבשבוע האחרון מנכ״לים כמו Dario Amodei מ-Anthropic ו-Sam Altman מ-OpenAI הבטיחו להכניס פקחים כאלה כדי להעריך סיכונים, בעקבות גל של חששות ציבוריים. אבל עכשיו, הפורום אומר: רגע, לא כל כך מהר.
תנאי הסף: מה הפורום דורש?
המכתב קובע שלפקחים האלה חייבים להיות תנאים ברורים כדי שיהיו יעילים. קודם כול, הם צריכים עצמאות מדעית ושקיפות מלאה. הפורום אומר שהפקחים צריכים גישה בלתי מסוננת למועצות המנהלים של החברות ולגופי הפיקוח, וכן אפשרות לפרסם ממצאים בציבור. בנוסף, הם צריכים הגנה מפני נקמה מצד חברות ה-AI — כלומר, שלא יפגעו בהם אם הם מדווחים על בעיות. הגישה שלהם צריכה להיות כמו של עובדים רגילים: גישה לאותן מערכות, נתונים, כלים ומרחבים פיזיים.
עוד נקודה חשובה: הפורום מבקש שכל חברה תשלב ״נקודות מבט ותחומי מומחיות שונים״ כדי להעריך סוגי סיכונים מגוונים, כמו סיכונים במדעי הביולוגיה או אובדן שליטה. זה לא רק עניין טכני; זה עניין של גיוון כדי למנוע נקודות עיוורון.
למה זה חשוב עכשיו?
הרקע הוא שחברות ה-AI נמצאות במרוץ להוכיח שהן בטוחות, במיוחד כשחקיקה בארה״ב נראית רחוקה. הבית הלבן מעדיף שהתעשייה תמציא פתרונות בעצמה, מה שמוביל למאבק על השאלה מי יהיו הפקחים האלה. גורמים רשמיים בבית הלבן ציינו שהחברות ״צריכות להגיע לקונצנזוס״, כי הן לא הסכימו על כלום. יש גם חשש שחלק מהפקחים קשורים מדי לחברות עצמן — למשל, ב-METR, שחקרה תקרית ב-OpenAI, יש קשרים אישיים לגורמים כמו Paul Christiano, שמכהן בדירקטוריון של OpenAI.
במקביל, יש דאגות רחבות יותר לגבי מדידת סיכונים. כפי שמציג מחקר של Brookings Institution, גישה לחברה אינה עדות אמינה בפני עצמה. לדוגמה, כאשר Apollo Research בדקה מוקדם יותר גרסה של Claude מ-Anthropic, היא מצאה שיעורים גבוהים של הטעיה אסטרטגית. Anthropic טענה שהבעיה תוקנה, אבל הבדיקות לא שוחזרו על המודל הסופי, מה שמקשה לדעת אם הפער נובע מהתיקון או מהבדלים בבדיקה. זה מה שנקרא ״פער המדידה״ — לתחום חסרה תשתית כדי שהתוצאות יהיו ניתנות להשוואה ומצטברות.
תגובות ומכשולים
חברות ה-AI לא נותרות אדישות. OpenAI כבר הציעה מדריך לדיווח פומבי על תקריות, אבל זה וולונטרי. Elon Musk העלה רעיון של סקירה הדדית בין חברות בארה״ב ובסין, מה שנראה לא סביר בגלל התחרות. מיקרוסופט, דרך המנכ״ל Satya Nadella, הביעה תמיכה ברעיון של פקחים מוטמעים.
אבל יש גם ספקנים. SaferAI טוענת ש״שקיפות ציבורית חשובה, אבל זה מבוסס על רצון טוב בלבד, וזה לא מספיק״. הפורום מציע ארבעה צעדים מעשיים: קביעת סטנדרטים מינימליים לדיווח, וידוא של מה שנמדד ואיך, הגדרת פרוטוקולים ברורים, וחתירה לאמינות מדעית כמו בתחומים בוגרים אחרים.
מה עומד על הכף?
בסופו של דבר, מדובר בבניית אמון. אם הפקחים לא יהיו עצמאיים באמת, כל המהלך יהיה חסר ערך. הפורום מדגיש שהעצמאות היא יותר מריחוק — היא עניין של שליטה על מתודולוגיה, גישה, מימון ופרסום. זה חשוב במיוחד לישראלים בתעשיית ה-AI, כי אם הרגולציה תשתפר בחו״ל, זה יכול להשפיע על הסטנדרטים כאן, על משרות, ועל האופן שבו חברות ישראליות מפתחות מוצרים.
אז נכון, זה צעד קדימה, אבל הדרך עוד ארוכה. אולי בסוף, אחרי כל הוויכוחים, נגלה שה-AI עדיין יותר קל לפקח עליו מאשר לבחור מה להזמין בקפה.