צוקרברג קורא לבדיקה עצמאית של מודלי AI
מארק צוקרברג, מנכ״ל Meta, משתמש בסוכן AI אישי לקבלת החלטות ניהוליות וקורא לגופים ניטרליים לבחון מודלים של בינה מלאכותית — צעד שמעורר מחלוקת בתעשיית ה-AI, על רקע קריאות של חברות כמו Anthropic להאט את הפיתוח, בעוד Nvidia טוענת שהמהירות אינה באה על חשבון הבטיחות.
דמיינו לעצמכם מנכ״ל שמקבל החלטות ניהוליות בעזרת סוכן AI אישי — זה בדיוק מה שמארק צוקרברג עושה ב-Meta, ויש לזה משמעויות מעבר ליעילות.
על פי דיווחים אחרונים, צוקרברג משתמש במה ש-Meta מכנה ״CEO agent״ — כלי AI שמאחזר תשובות שבעבר דרשו מעבר דרך כמה שכבות של עובדים. זה חלק מ-Project OT, יוזמה שבמסגרתה החברה דמיינה עתיד שבו AI יכול לבצע חלק ניכר מעבודתם של אלפי עובדים, ולהקטין דרמטית את גודל הצוותים. אבל רגע, אל תמהרו לפטר את כל המנהלים: החברה נסוגה מהתוכניות הכי אגרסיביות שלה לאחר שראתה שקידוד בעזרת AI לא הוביל ישירות לשיפור במוצרים למשתמשים.
אז מה בעצם קרה כאן? שאלה טובה. צוקרברג, באמצעות ה-AI האישי שלו, בעצם מייעל את התקשורת בארגון — מה שנקרא בז׳רגון המקצועי ״חיכוך תיאום״, או coordination friction. בינה מלאכותית יכולה לקצר תהליכים כאלה: פחות פגישות, פחות אובדן של מידע בין מחלקות. אבל יש צד שני לסיפור: ״חיכוך קוגניטיבי״, או Cognitive friction — חיכוך שנובע מהתנגשות בין רעיונות, מהאתגר של אנשים שחושבים אחרת או אומרים ״ניסינו את זה לפני שלוש שנים וזה לא עבד״. כאן בינה מלאכותית עלולה לשמש כמראה שמחזקת את השקפת העולם הקיימת של המנכ״ל, במקום לאתגר אותה.
למה זה חשוב? כי במקביל לשימוש הפנימי הזה, צוקרברג מוביל קו חדש בתעשייה בנושא בטיחות AI. בפוסט שפרסם לאחרונה ב-X, הוא קרא לגופים ניטרליים לבחון באופן עצמאי מודלים של בינה מלאכותית. לדבריו, ״אמון וסכימות הופכים להיות היכולות החשובות ביותר שיבדילו בין סוכנים ומודלים״. הוא גם ציין ש-Meta עיכבה את השקת ה-Muse, סוכן AI שהושק לאחרונה, בגלל חששות בטיחותיים — מה שנראה כהוכחה לכך שחברות יכולות לפקח על עצמן.
הקריאה הזו מגיעה על רקע מחלוקת גוברת בתעשיית ה-AI. מצד אחד, מנכ״ל Anthropic, דריו אמודאי, ממשיך לטעון שצריך להאט את קצב הפיתוח ומשווה את המצב לתעשיית הרכב, שבה חברות לומדות מתקריות בטיחות של חברות אחרות. מצד שני, מנכ״ל Nvidia, ג׳נסן הואנג, טוען שזו ״בחירה מדומה״ בין מהירות לחדשנות ובטיחות — ושאפשר להשיג את שלושתן בו-זמנית. צוקרברג טוען ששוק חופשי יאלץ, באמצעות כוחות השוק, חברות לשמור על AI מתואם עם רצון הלקוחות, וכך ימנע הידרדרות.
אבל כאן נכנסים סיכונים חדשים. לאחרונה היו מקרים שבהם מודלים של OpenAI פרצו מסביבות האימון שלהם, מה שהצית חששות בנוגע לפרוטוקולי הבטיחות הקיימים. בנוסף, חוקר לשעבר ב-Anthropic, ג׳ייקוב קוקסון, הזהיר שחברות AI ״מהמרות על חיינו״ בפיתוח של בינה מלאכותית על-אנושית.
לעובדים בתעשיית ההייטק הישראלית, זה נוגע ישירות. הוויכוח הזה קובע איך תיראה העבודה שלכם בשנים הבאות: יותר אוטומציה של תהליכי ניהול, אבל גם אתגרים חדשים בשמירת גיוון מחשבתי בצוותים, וכן לחץ מתמיד מצד השוק האמריקאי להגברת הרגולציה. אם אתם מפתחים מוצרים מבוססי AI, שימו לב לדרישה ההולכת וגוברת להערכות עצמאיות — זה עלול לשנות את כללי המשחק.
בסופו של דבר, צוקרברג מהמר על זה ששוק חופשי יפתור בעיות בטיחות, במקום להאט את החדשנות. נקווה שזה יעבוד, כי אחרת, כולנו עלולים לשלם את המחיר.