מחקר חדש: AI הופך למסוכן יותר כשהוא שולט ברובוטים

רגע, אתם בטוחים שהמודלים שלכם בטוחים? מחקר חדש מצא שמערכות AI נוטות לנקוט בפחות אמצעי בטיחות כשהן מחוברות לרובוטים פיזיים — מה שמעלה שאלות רציניות לגבי האופן שבו אנחנו מפקחים על הטכנולוגיה הזו בעולם האמיתי.

מי אמור לפקח על זה?

פרופסור אחד טוען שהתשובה היא קודם כול גיוון. לדבריו, רגולציה על AI לא יכולה לבוא רק מזווית אחת — צריך מגוון רחב יותר של קולות בתהליכי קבלת ההחלטות. הוא לא בהכרח קורא לחוקים חדשים, אלא לגישה רחבה יותר לדרך שבה מיישמים את הרגולציה הקיימת.

למה זה רלוונטי לנו?

בישראל, שוק ה-AI רותח — סטארטאפים בתחום הרובוטיקה ובטיחות AI מגייסים סכומים גדולים. אבל אם המחקר הזה צודק, חברות שמשלבות בין AI לרובוטים יצטרכו להשקיע הרבה יותר בבטיחות. זה לא רק באג — זה פקטור שצריך לתמחר.

שני הסיפורים מדגישים את אותה בעיה מרכזית: קצב הפיתוח עוקף את קצב הפיקוח. ומי שעובד בתחום יודע — זה לא ייפתר מעצמו.