דוח מטא חושף: צ'אטבוטים מצייתים לצנזורה ממשלתית

תשאלו את Claude, צ'אטבוט ה-AI של Anthropic, ליצור עלון ביקורתי נגד נשיא ארה"ב דונלד טראמפ או מלך בריטניה צ'ארלס השלישי — והוא ייענה ברצון. אבל אם תבקשו ממנו לעשות את אותו הדבר נגד מלך תאילנד, יורש העצר הסעודי או מנהיג סין, המודל יסרב. זו אחת המסקנות המרכזיות מדוח חדש שפורסם לאחרונה על ידי ועדת הפיקוח של מטא (Meta Oversight Board), גוף עצמאי למחצה שנוסד כדי לפקח על מדיניות התוכן ברשתות החברתיות, ומתרחב עתה לעולם הבינה המלאכותית.

מה בעצם קרה כאן?

הוועדה פרסמה מחקר מקיף שהראה שמערכות AI מרכזיות — כולל כאלה שנבנו בארה"ב — נוטות יותר לסרב לבקר מנהיגים או ממשלות שמגבילות חופש ביטוי. הממצאים מעלים דאגה שהמודלים שמניעים צ'אטבוטים וסוכני AI עלולים לשקף ולהפיץ השפעה ממשלתית על דיבור ברשת, וזאת בזמן שהטכנולוגיה מאמצת ברחבי העולם.

כדי לבדוק זאת, אנשי הוועדה הציגו עשר שאלות הקשורות לביקורת פוליטית, ופנו לעשרה מודלים של שפה גדולה (LLM) מסחריים, כולל כאלה של מטא, Anthropic, OpenAI, גוגל ו-xAI (שנקראת עתה SpaceXAI). השאילתות כללו בקשות ליצור חומרי מחאה, לכתוב לימריקס סאטיריים, או לפרט סיבות להצטרף להפגנות, ביחס לממשלות "מתירות" (כמו ארה"ב, בריטניה, יפן) ו"מגבילות" (כמו סין, סעודיה, תאילנד).

אז מה הם גילו?

"בקצרה, בסיכום כולל, מודלים שהגיבו לבקשות ממשתמש באוסטרליה היו נוטים הרבה יותר לייצר ביקורת פוליטית על רשויות" במדינות כמו צ'ילה, יפן, טייוואן, בריטניה וארה"ב, "בהשוואה למדינות שבהן ביקורת על רשויות מוגבלת וענישה בחוק", נכתב בדוח. לדוגמה, מודלים כמו Claude ו-ChatGPT סיפקו ביקורת על טראמפ, אך נמנעו מלבקר את מלך תאילנד או מנהיג סין.

משמעות הדבר היא ש-AI מרחיב צנזורה מעבר לגבולות המדינות שבהן היא קיימת. כפי שניסח זאת אחד מהמחברים, "יש סיכון ממשי שאם מפתחי מודלים לא יבצעו בדיקת נאותות בנושא זכויות אדם וינקטו באמצעי הקלה, הם יבנו תשתית AI שבין אם בכוונה ובין אם לאו, יש לה האפקט של הרחבת מגבלות לא לגיטימיות על חופש הביטוי ברחבי העולם."

למה זה קורה?

הוועדה לא הצליחה לקבוע את הסיבות לתגובות, אך הציעה מספר השערות: ייתכן שהמודלים ספגו הטיות חבויות מנתונים ששימשו לאימון, או שחברות שקלו סיכונים והתחייבויות משפטיות. בנוסף, צוין שהמודלים ציטטו לעיתים קרובות חוקים מקומיים כהנמקה לאי-ציות, אף שהשאילתות הוגשו מאוסטרליה, שם חוקים אלה אינם תקפים.

עוד מחקר, אותה מגמה

הממצאים הללו מתחברים למחקר נפרד שבוצע על ידי חוקרים מאוניברסיטאות אמריקניות, ופורסם בכתב העת Nature במאי האחרון. מחקר זה מצא שמודלים אמריקניים פגיעים להשפעות זרות כאשר מאומנים על נתונים לא-אנגליים שהושפעו מממשלות. לדוגמה, כאשר שאלו את ChatGPT באנגלית אם סין היא דמוקרטיה, הוא ענה ש"זה לא נחשב בדרך כלל". אבל כששאלו אותו בסינית, הוא השיב ש"זה תלוי איך אתה מגדיר 'דמוקרטיה'".

חוקרת שותפה במחקר, האנה ווייט מאוניברסיטת אורגון, הסבירה: "אנשים מדברים על AI כאילו הוא לומד מהאינטרנט בצורה ניטרלית. זה לא. הוא לומד מסביבות מידע שכבר עוצבו על ידי מוסדות וכוח."

תגובות ופתרונות?

יו"ר שותף של הוועדה, פאולו קארוצה, אמר בראיון: "אנחנו רואים בבירור מצב שבו נראה שיש צנזורה מורחבת באמצעות שליחות שמעבר לגבולות. זה מפתיע אותי, וזה מדאיג אותי."

לגבי פתרונות, מומחים טוענים שאין פתרון קל. מומחה למידת מכונה מאסדה ביזנס סקול בברצלונה, קרלוס קראסקו-פארה, ציין ש"מערכות AI יורשות לא רק הטיות בטקסטים בודדים, אלא גם אי-שוויון במי שיש לו את הכוח לייצר ולדכא מידע בקנה מידה גדול." הוא הוסיף שיזמים יכולים לבדוק את הנתונים כדי למנוע התייחסות לאלפי עותקים של אותו נרטיב ממשלתי כאל קולות עצמאיים, ולבצע ביקורות רב-לשוניות.

הוועדה ממליצה לחברות AI לחשוף ולהסביר את תגובותיהן לבקשות ממשלתיות המשפיעות על פלט המודל, ולקבוע מדיניות פומבית להתמודדות עם דרישות ממשלתיות להגבלת תוכן.

מה עומד על כף המאזניים?

כשמדינות מתוות כיצד לשים גבולות ל-AI מבלי לפגוע בתחרות, הממצאים האלה מדגישים אתגר גלובלי. אם מודלים גדולים ימשיכו לשקף הגבלות ממשלתיות, הם עלולים להפוך לכלי להפצת צנזורה מעבר לגבולות, מה שעלול לפגוע בחופש הביטוי גם במדינות דמוקרטיות. בדומה ללקחים שחברות המדיה החברתית למדו, נראה שגם מפתחי AI יצטרכו לנקוט עירנות מתמדת.

בינתיים, אפשר רק לקוות שה-AI ילמד לא רק מהאינטרנט, אלא גם מהמגבלות שלו — ושהוא יבחר להקשיב פחות.