מי שעבד בתחום ה-AI מזהיר: ״צריך פיקוח עולמי״

מה מפחיד את מי שמכיר את ה-AI מבפנים?

אי אפשר לזלזל באזהרה כזו. אדם שעבד בתעשיית הבינה המלאכותית, שמכיר את המנגנונים והלוגיקה שמניעים את התחום הזה, מתריע בריאיון ל-NBC News על כך שפיתוחים מתקדמים בתחום ה-AI עלולים להפוך ״למפחידים מאוד״ בקרוב. הוא לא מדבר כחובב תיאוריות, אלא כמי שהיה בפנים – ועכשיו מפחד ממה שהוא ראה.

הפחד: פיתוחים בלי מעצורים

דבריו נוגעים בנקודה כואבת: הקצב המטורף שבו חברות מפתחות מודלים של AI, בלי רגולציה בינלאומית מתאימה. הוא מדבר על ״תיאום עולמי״ – מונח שמקובל לשמוע בוועידות בינלאומיות, אבל כאן הוא מגיע מאדם שחווה את הלחץ מבפנים. הבעיה, הוא מסביר, היא שהמרוץ הזה עלול להוביל לתוצאות בלתי צפויות, כאלה שמדינות לא יהיו מוכנות להתמודד איתן.

מה זה אומר עלינו, בתעשייה הישראלית?

עבור מי שעובד בסצנת ההייטק הישראלית – בין אם בסטארטאפים שמתמקדים ב-AI ובין אם בחברות ענק או בצוותי מחקר – האזהרה הזו מורגשת. ישראל נחשבת למרכז חשוב בתחום, עם חברות כמו AI21 Labs ו-Hugging Face (שיש לה מרכז פיתוח בתל אביב). אם התחום ייכנס למשבר אמון או יעמוד בפני מגבלות חדשות, זה ישפיע ישירות על משרות, השקעות ואפילו על המוניטין של ישראל כ״אומת הסטארט-אפ״.

ההצעה: פיקוח בינלאומי

האינסיידר מציע מודל של פיקוח בינלאומי – אולי גוף עולמי שיפקח על פיתוח AI, בדומה לניסיונות הפיקוח בתחומי הגרעין או האקלים. זה נשמע אוטופי, אבל הוא טוען שבלעדיו, אנחנו עלולים למצוא את עצמנו עם טכנולוגיה שמתפתחת מהר מדי, בלי יכולת לשלוט בה.

הפרספקטיבה האמריקאית

בריאיון הוא מציין את ארה״ב כמדינה שצריכה להוביל את המהלך, אבל מסביר שזה חייב להיות מאמץ גלובלי. ״אי אפשר לסמוך על מדינה אחת שתעשה את זה לבד״, הוא אומר. ״הטכנולוגיה הזו לא מכירה גבולות״.

מה יקרה הלאה?

בינתיים, הטענות הללו נשארות בתחום של שיחות וריאיונות. אבל העובדה שהן מגיעות ממי שהיה בתוך המערכת נותנת להן משקל מיוחד. בעולם שבו מודלים של AI כמו GPT-5, Claude 4 או Gemini Ultra מתחרים על תשומת הלב, האזהרה הזו מזכירה לנו שלטכנולוגיה הזו יש צדדים שאנחנו עדיין לא לגמרי מבינים.

אז בפעם הבאה שאתם מתקינים עוד תוסף AI או עובדים על אינטגרציה עם מודל חדש, שווה לזכור את האזהרה הזו – אולי היא לא רק תיאורטית.