מייסד-שותף ב-Cambricon מציע ״בודק אתיקה״ למודלי AI
Chen Yunji, מייסד-שותף של Cambricon, קרא בכנס בשנגחאי לקבוע סטנדרטים אתיים גלובליים למודלי AI בסין ובארה״ב — כולל DeepSeek ו-OpenAI — על רקע עלייה דרמטית במתקפות סייבר. המטרה: למנוע שימוש לרעה בטכנולוגיה שמתפתחת בקצב מסחרר.
מתקפות הסייבר שמנצלות AI הופכות לחלק מהנוף — ותעשיית השבבים מנסה לרתום את השינוי לטובת שיפור הבטיחות. Chen Yunji, מייסד-שותף של ענקית השבבים הסינית Cambricon, דיבר לאחרונה באירוע בשנגחאי וקרא לסטנדרטים אתיים אחידים למודלים מובילים של בינה מלאכותית מסין ומארה״ב, כמו DeepSeek של ByteDance ו-OpenAI האמריקאית.
הוא מזהיר שיכולות ה-AI מתקדמות במהירות שיא, מה שמגביר סיכונים חברתיים וביטחוניים — כפי שראינו בגל מתקפות הסייבר שפגעו בתשתיות קריטיות בשנים האחרונות. אז איך מתמודדים עם זה? Chen מציע מנגנון ״בודק אתיקה״ אוניברסלי שכל מודל AI מתקדם יצטרך לעבור, כדי להבטיח פיתוח אחראי יותר.
ההצעה הזו מגיעה בזמן שהשוק העולמי מחפש פתרונות רגולטוריים, ועשויה להשפיע על אופן הפיתוח של כלי AI שבהם הישראלים משתמשים מדי יום.