ביקורת בדרום קוריאה חושפת פגמים במערכי AI בשווי 1.13 מיליארד דולר
דוח ביקורת ממשלתי בדרום קוריאה מצא כי מערכי נתונים ציבוריים לאימון מודלי AI, בשווי 1.13 מיליארד דולר, סובלים מכפילויות, מחוסר אימות ומבעיות איכות — ובהם 42% מתמונות חיות הבר, שהיו דומות למערכי נתונים קיימים, ותמונות פסולת שסומנו באופן שגוי. הממצאים חושפים כשל ניהולי שמעכב את פיתוח ה-AI ומבזבז כספי ציבור.
אז, מה קורה כשהממשלה משקיעה מיליארד דולר בנתונים ל-AI — אבל לא בודקת אם הם בכלל שימושיים? דוח ביקורת חדש מדרום קוריאה חושף את התשובה: בזבוז ענק, כפילויות ופגמים שמעכבים את הפיתוח.
הוועדה לביקורת המדינה בדרום קוריאה פרסמה השבוע ממצאים מדאיגים על מאמצי הממשלה לטפח את תעשיית הבינה המלאכותית. משרד המדע וה-ICT הקצה 1.6 טריליון וון (כ-1.13 מיליארד דולר) לבניית מערכי נתונים ציבוריים ל-AI, דרך פלטפורמת AI Hub. נכון לנובמבר, נבנו ושוחררו 908 סוגים של מערכי נתוני אימון. בנוסף, 26 מוסדות ממשלתיים אחרים, כמו משרד הבריאות, עיריית סיאול ו-Korea Expressway Corp., יצרו 313 מערכי נתונים בנפרד, בפורטלים משלהם.
אבל כאן מתחילה הבעיה. הביקורת מצאה שגופים רבים יצרו מערכים דומים בלי לבדוק מה כבר קיים. למשל, משרד המדע הוציא 5.21 מיליון דולר על ארבעה מערכי תמונות — של חיות בר, פסולת ביתית, סדקים בבטון וביצים. למרות זאת, חמישה מוסדות, כולל עיריית סיאול ו-Korea Expressway Corp., הוציאו 431 אלף דולר נוספים על חומר דומה. במקרה בולט, 42% מתמונות חיות הבר (25,000 מתוך 60,000) ש-Korea Expressway Corp. יצרה ב-2022 היו דומות למערכי נתונים קיימים של משרד המדע מ-2021.
בקרת האיכות הייתה לא עקבית. מבין 20 הגופים שיצרו את היקף נתוני ה-AI הגדול ביותר, תשעה איפשרו העברת נתונים ללא אימות חיצוני. במערך תמונות CCTV לנהיגה אוטונומית ש-Korea Expressway Corp. יצרה ב-2025 היה חסר מידע על מיקום של רכב בודד — מה שהפך אותו ללא שימושי לפיתוח מערכות נהיגה אוטונומית. Annotations, או תוויות, חיוניות כדי שמודלי AI ילמדו על סמך מאפיינים.
במקרה אחר, מערך תמונות הפסולת הגדול מעיריית סיאול, מ-2020, סבל מבעיה דומה: 23.4% מהתמונות (538 מתוך 2,303) תויגו באופן שגוי. למשל, תיבות ושולחנות סומנו כתיקיות. שגיאות כאלה עלולות לגרום למודלי AI ללמוד מידע מוטעה, מה שעלול להוביל לביצועים לקויים.
הוועדה לביקורת המדינה הנחתה את משרד המדע להקים מערכת בדיקה מקדימה כדי למנוע כפילויות ולתאם את תוכניות בניית מערכי הנתונים בין הסוכנויות. היא גם קראה לקבוע תקני איכות אחידים.
אז מה נלמד? כשממשלות רוצות לקדם AI, כסף לבדו לא מספיק. איכות הנתונים קריטית — ומי שעובד בתעשיית ה-AI יודע ש-GIGO (זבל נכנס, זבל יוצא) הוא כלל ברזל. אולי הגיע הזמן שמישהו יבדוק גם את מערכי הנתונים הציבוריים פה, לפני שנבזבז מיליונים על נתונים פגומים.