ה-ICIBI שוקל חקירה נגד ה-Home Office על AI בהליכי הגירה
גוף הבדיקה הבריטי ICIBI שוקל חקירה נגד משרד הפנים הבריטי Home Office על שימוש בכלי AI בהליכי מקלט. הדוח חושף שלבסוף הכלים הללו, כמו ACS ו-APS מבוססי GPT-4, מייצרים שגיאות גבוהות מהמדווח — מה שמוביל לדחיית בקשות מקלט שווא. Open Rights Group קורא לאסור שימושים כאלה.
כששופט בבריטניה דחה לאחרונה בקשת מקלט של אם וילד ממרוקו, כי הכלי AI של ממשלת בריטניה ׳המציא׳ מסמך הטוען שארץ המוצא שלה בטוחה — המחיר הפך לאיום מוחשי על חיי אדם.
מסמך החקירה חושף: AI נפרש בהסגר כמעט מוחלט דו״ח חדש של Open Rights Group (ORG) חושף שבשנים האחרונות משרד הפנים הבריטי (Home Office) הטמיע כלי AI בהליכים ממשלתיים — מזיהוי נישואים פיקטיביים ובדיקת תכולת טלפונים של נחקרים, דרך מעקב גבולות (כולל זיהוי פנים בזמן אמת, רחפנים ולווינים המופעלים ע"AI), ועד לסיכום ראיונות מקלט וקביעת סדרי עדיפויות בתיקים באמצעות מערכת Ipic.
הכל נעשה כמעט בחשאי. אנשי המשרד השתמשו שוב ושוב בטיעון של ביטחון לאומי כדי לעכב בקשות ממסמכי חופש המידע, ולהסתיר פרטים על הפרויקטים הללו.
איך זה עובד? ACS ו-APS על בסיס OpenAI GPT-4 הכלים המרכזיים הם Asylum Case Summarisation (ACS) ו-Asylum Policy Search (APS), שנבנו על מודל AI של OpenAI (GPT-4) ופלטפורמת Microsoft Foundry. ה-ACS מסכם עבור פקידי ההגירה את תמלילי הראיונות עם מבקשי המקלט, בעוד ה-APS מסייע לחפש ולסכם מידע על מדינות המוצא — נתונים שמכריעים האם מבקש מקלט עומד בסכנה.
הפיילוט התחיל בסוף 2024, כשהממשלה ניסתה להתמודד עם פיגור של כ-100,000 תיקים. על פי ההערכות, השימוש בכלים האלה חוסך כשעה לטיפול בכל מקרה. אבל המחיר? מדו"ח ORG עולה שאחוז התמצותים של ACS שזוהו כבלתי-ראויים (עקב טעויות עובדתיות או עיוותים) גבוה באופן משמעותי מה-9% שהממשל פרסם. ה-APS, בינתיים, עובד ללא בקרת איכות.
טענות: ה-AI מפחית אנשים לנקודות נתונים ארגון ORG טוען שמדיניות ההגירה הבריטית הופכת מקרים אנושיים מורכבים לבעיות טכניות, תוך שימוש ב-AI שמשכפל הטיות ומוסיף דה-הומניזציה. Sara Alsherif מ-ORG אומרת: "הגירה היא תופעה אנושית, לא בעיה טכנית שצריך לפתור עם AI. דחוף לנו שקיפות, דין וחשבון ורגולציה קפדנית."
חברת הפרלמנט Bell Ribeiro-Addy מתייחסת לחוסר השקיפות: "למרות שאלות ובקשות, ה-Home Office נמנע מפרסום מסמכים שיבהירו איך AI משמש בטיפול בבקשות מקלט, מה הבעיות ואיך מטפלים בהם."
חקירת ICIBI: מה הלאה? ה-Independent Chief Inspector of Borders and Immigration (ICIBI) בוחן פתיחה בחקירה. הגוף ביקש מ-ORG פרטים נוספים, שכן הוא מתכנן את תחומי הבדיקה שלו לשנה הבאה. ה-ICIBI מצא כבר בשנה שעברה שה-ACS הראה "יעילות ואמינות מגוונות", והם מודאגים מהשימוש ב-AI – במיוחד במקרים כל כך רגישים.
ממשרד הפנים הבריטי נמסר: "החלטות מקלט מתקבלות ע"י עובדים מקצועיים, כלי AI משמשים רק לסיוע בניווט ברשומות ראיונות ומדיניות. הם לא מחליפים או מחליטים לבד. אנו מנטרים בקביעות את ביצועיהם."
בינתיים, עשרות אלפי מבקשי מקלט ממתינים להחלטות, וקצב הערעורים על ההחלטות האלה מזנק. עתידם תלוי במכונה שעובדת בסודיות, ועושה טעויות שהוכחו כקריטיות.