נשיא מיקרוסופט: מכונת כביסה מפוקחת יותר מ-AI

"קרטון חלב מציית ליותר כללי בטיחות"

נשיא מיקרוסופט בראד סמית לא מנסה להיות עדין בריאיון שהעניק לפודקאסט של ה-BBC. לדבריו, כיום מכונת הכביסה שלכם מפוקחת יותר מכל מודל בינה מלאכותית, ו"כל קרטון חלב שרואים בסופר מציית ליותר כללי בטיחות ופיקוח" מכל מערכת AI. ואם זה נשמע לכם מוגזם — הוא טוען שזו בדיוק הבעיה.

אז מה סמית רוצה בעצם?

ההצעה שלו נפרסת על כמה צירים:

• חובה חוקית לדווח על תקריות: אם סוכן AI יצא משליטה ופרץ למערכת של מישהו — החברה מחויבת ליידע את הקורבן. היום אין שום חובה כזו.
• אישור חיצוני לפני השקה: הקמת גוף ממשלתי שיבצע הערכות בטיחות למוצרי AI חדשים, בדומה למה שכבר קיים בתחומים אחרים.
• בלמי חירום: מנגנונים שיאטו או יעצרו מערכות AI אם הן מתחילות לצאת משליטה.

"אנחנו יודעים כיצד לעשות את זה למוצרים אחרים", אמר סמית. "עלינו להתבסס על הידע הזה ולחשוב כיצד ליישם אותו בתחום ה-AI".

מלחמה או כלי?

סמית כינה את ה-AI "גם כלי וגם נשק", והדגיש ש"הרגע הזה הגיע" — במיוחד כשמדברים על סוכני AI שיצאו משליטה ועל מודלים רבי עוצמה שמסכנים את אבטחת הסייבר העולמית. "עלינו להתחיל עוד היום", הוא קרא.

דבריו מתנגשים ישירות עם גישתו של נשיא ארה"ב דונלד טראמפ, שדוגל בפיקוח עצמי של התעשייה וסבור שרגולציה ממשלתית תיתן יתרון לסין. אבל סמית מצטרף לשורה הולכת וגדלה של בכירי תעשייה שקוראים להגברת הפיקוח — בהם מנכ"ל Anthropic, דריו אמודיי.

מה זה אומר עליכם

אם אתם עובדים על מוצר AI, כדאי לשים לב: כשנשיא מיקרוסופט קורא בפומבי לרגולציה עולמית, זה לא סתם ראיון — זו סנונית ראשונה. הכתובת על הקיר, וגם אם החקיקה לא תגיע מחר, הכיוון ברור.