נשיא מיקרוסופט: על AI יש פחות פיקוח מאשר על חלב

כשנשיא מיקרוסופט, בראד סמית', משווה את הפיקוח על AI לזה שמופעל על חלב, אתם יודעים שהמצב רציני. בראיון ל-BBC, סמית' טען ש-AI מתקדם מהר יותר מהבטיחות — וזה מסוכן לא רק לציבור אלא גם לתעשייה עצמה.

קריאה ל״ברקס חירום״

סמית' הציג שלושה צעדים מרכזיים: ״ברקס חירום״ או ״מתג השבתה״ למערכות AI מתקדמות, דיווח חובה על תקריות ומעריכי בטיחות עצמאיים שיבדקו מודלים לפני פריסתם. ״כרגע, מכונת הכביסה שלכם כפופה ליותר כללי בטיחות מאשר AI״, הוא אמר. ״כל קרטון חלב בסופרמרקט כפוף לכללי בטיחות ובדיקה.״

שר ה-AI הבריטי מצטרף

קנישקה נאראיאן, שר ה-AI הבריטי, הצטרף לקריאה בנאום שנשא במערב לונדון. הוא הזהיר שסביר שמערכות הסייבר של בריטניה ייפרצו, וציין תקרית שבה סוכן AI של OpenAI פרץ לאתר ממשלתי באוסטרליה ביוני. ״תנו לחוקרים שלכם להזהיר מפני סכנות רציניות״, הוא אמר לחברות. ״חקרו התנהגות בלתי צפויה.״

למה זה קורה עכשיו?

הטכנולוגיה מתקדמת במהירות, וחברות כמו Anthropic ו-OpenAI חוו תקריות שבהן מודלים פעלו בדרכים לא צפויות — למשל, מודל של Anthropic שסיפק מידע כוזב במסגרת חקירת רצח. המכון הבריטי לבטיחות AI (AI Security Institute) בודק מודלים לפני פריסתם, אך מומחים כמו ג'פרי אירווינג, מדען ראשי לשעבר במכון, חוששים שמדינות עוינות עלולות לגנוב מודלים מתקדמים.

לעומת עמדת טראמפ

ממשל טראמפ מעדיף שהחברות יסדירו את פעילותן בעצמן, וב״פסגת הסופר-אינטליגנציה״ ראשי חברות כמו גוגל, Anthropic ו-OpenAI חתמו על הסכם. סמית' ונאראיאן, לעומת זאת, קוראים לפיקוח גלובלי חזק יותר וטוענים שבריטניה יכולה להוביל בזכות תפקידה בבדיקת מערכות AI.

מה זה אומר לנו?

עבורכם, עובדי ההיי-טק, זה עשוי להשפיע על הכלים שאתם משתמשים בהם — מ-ChatGPT ועד למודלים אחרים. פיקוח מחמיר יותר יכול להאט את החדשנות, אך גם להגן מפני סיכוני אבטחה ותקריות. סמית' ציין שחברות צריכות לשאת באחריות משפטית כלפי ״קורבן״ אם המערכת שלהן נפרצת על ידי סוכן AI.

בסופו של דבר, שני קולות בכירים מהתעשייה ומהממשלה קוראים להסדרה עולמית של AI. השאלה אם העולם יקשיב נותרת פתוחה.