Zuckerberg: הסיכון הגדול ביותר ב-AI הוא שליטה בידי גוף אחד

מארק צוקרברג שחרר השבוע מניפסט של 6,500 מילים על עתיד הבינה המלאכותית – וזו לא עוד הצהרה תדמיתית. המנכ״ל של Meta פרסם מסמך מפורט, ״The Future is for Everyone״, שבו הוא לא רק מגן על ה-AI, אלא גם מזהיר שהסיכון הגדול ביותר הוא לא הטכנולוגיה עצמה, אלא הריכוזיות והשליטה בידי ממשלה אחת או חברה בודדת. במקביל, Meta חשפה מודל AI חדש כחלק מהחזון שלה ל״סופר-אינטליגנציה אישית״ – וזה מרגיש כמו יריית הפתיחה במרוץ החימוש הנוכחי בארה״ב.

אז מה בעצם קרה כאן?

ביום שני, צוקרברג פרסם את המניפסט – 6,500 מילים, לא פחות – שבו הוא טוען שהדאגות הנפוצות לגבי AI הן מוגזמות. במקום זאת, הוא טוען שהאיום האמיתי הוא ריכוז כוח: אם גוף אחד, בין שממשלה ובין שתאגיד, ישלוט בטכנולוגיה, זה יוביל לתוצאות שליליות לכולם. זה מסר שונה מהשיח הרווח בתעשייה, שבו הרבה קולות קוראים להגבלות קפדניות יותר.

״אחת הדרכים להשיג גם העצמה אישית וגם איזונים ובלמים היא לוודא שהטכנולוגיה נמצאת בידיים של כולם״, אמר צוקרברג בריאיון ל-Axios. זו ליבת החזון שלו: AI אישי, מותאם לכל אדם, שיהפוך ל״סופר-אינטליגנציה״ שמשפרת היבטים שונים בחיים – מבריאות וקריירה ועד תחביבים ויחסים. צוקרברג נותן דוגמה אישית: הבת שלו, רק בת 8, כבר יכולה לכתוב קוד ולהפיק סרטונים בעזרת AI.

מה עומד מאחורי החזון?

Meta הודיעה שהיא חוזרת לשחרר מודלי AI בקוד פתוח, אותם צוקרברג מכנה ״כוח חיובי וחשוב להעצמת אנשים״. זה צעד מעניין, במיוחד על רקע הדיון הסוער בסיליקון וואלי ובוושינגטון בשאלה אם מודלים מתקדמים צריכים להיות נגישים לכל או מבוקרים על ידי חברות מעטות. צוקרברג טוען ש-open source הוא דרך לפרק ריכוזיות, אבל יש כאן גם אסטרטגיה עסקית: ככל שיותר מפתחים ישתמשו במודלים של Meta, כך החברה תשפיע יותר על עתיד ה-AI.

בנוסף, צוקרברג הציג את הרעיון של ״סופר-אינטליגנציה אישית״ – סוכן AI אישי שירוץ על המכשיר שלכם, יבין את המטרות שלכם ויעבוד בשמכם. הוא מאמין שזה יוביל לשגשוג כלכלי, לקידום הביטחון הלאומי ולהישגים מדעיים. ״האנושות עברה טרנספורמציות רבות, בכל פעם מתוך חשש שאנשים יישארו מאחור״, כתב. ״אבל בכל פעם יצאו מכך יותר אנשים עם יותר שגשוג, בריאות וחירות״.

תגובות וביקורות

לא כולם קונים את החזון הזה. TechCrunch מציין שהרבה אנשים רואים ב-AI משהו מפחיד ולא נעים, ושהמניפסט של צוקרברג, עם כל ההזדמנויות שהוא מתאר, מזכיר לנו גם כמה דברים שעלולים להשתבש. חלק מהמבקרים קראו למניפסט ״אוטופי״ מדי, בלי פתרונות קונקרטיים לאתגרים כמו פרטיות או אבטחה.

מצד שני, צוקרברג לא לבד. הקריאה שלו לפיקוח ממשלתי בארה״ב, כדי לשמור על היתרון האמריקאי ולהבטיח שהאנושות תשמור על שליטה בסופר-אינטליגנציה, מתכתבת עם דיונים רחבים יותר בתעשייה. הטענה שלו היא ש-AI צריך להיות מפוזר, לא מרוכז, כדי למנוע תרחישים שבהם קומץ גורמים קובע את העתיד של כולם.

מה זה אומר לכם?

למי מכם שעובד בתעשיית ה-AI, המהלך הזה הוא עוד סימן שהשוק מתבגר. החזרה ל-open source מצד Meta עלולה להגביר תחרות, אבל גם ליצור סטנדרטים חדשים. אם אתם מפתחים, אולי תמצאו יותר מודלים לשחק איתם; אם אתם יזמים, החזון של AI אישי פותח דלתות למוצרים חדשים. אבל אל תתפלאו אם הרגולציה תגיע – צוקרברג עצמו קורא לה.

בשורה התחתונה, אחרי 6,500 מילים, אפשר לסכם את צוקרברג כך: הוא מפחד מ-AI מרוכז יותר מאשר מ-AI חזק. ואם חשבתם שפייסבוק זה מסובך, חכו שתראו את הבעיות של סופר-אינטליגנציה.