ConnieChan.ai: הבוט של ויינר התהפך על יוצריו

אז מה קרה כשקמפיין פוליטי החליט לרתום את כוחה של בינה מלאכותית כדי לתקוף את היריב, אבל בעצם איבד שליטה על הנשק שלו? זו בדיוק התקלה שאליה נקלע סנאטור מדינת קליפורניה, סקוט ויינר, במרוץ שלו לקונגרס האמריקני — והיא הפכה לשיעור מאלף עבור כל מי שמשתמש בכלי AI.

ויינר, דמוקרט מסן פרנסיסקו שמתמודד על המושב שמתפנה עם פרישתה של חברת הקונגרס הוותיקה ננסי פלוסי, רצה לתקוף את יריבתו, חברת מועצת העיר קוני צ'אן. הרעיון היה גאוני לכאורה: צ'אטבוט AI, עם ממשק אינטרנטי משלו, שיציג את עצמו כצ'אן ויענה על שאלות מדיניות תוך ביקורת על הרקורד שלה. המטרה: להפוך את טענות הקמפיין בדבר ״ההתקדמות החסומה״ שלה לחוויה אינטראקטיבית.

איך זה עבד (לכאורה)?

הקמפיין של ויינר השיק אתר בשם ConnieChan.ai. האתר תיאר את עצמו כ״צ'אן, ה-AI הראשון בעולם שאומן לומר 'לא' לכל מה שאתה מבקש״. הוא הוזן בנתונים על עמדותיה המדיניות של צ'אן, ואמור היה לייצר תגובות סאטיריות שמבקרות את עמדתה. עלות הפרויקט: 5,000 דולר, כולל רכישת דומיין, אחסון וגרסת Pro של מודל Claude מבית Anthropic, בתוספת זמן עבודה של הצוות. בנוסף, הם הוציאו 20,000 דולר על שני שלטי חוצות בסן פרנסיסקו כדי לקדם את הבוט.

לדברי ג'ו אראנו, דובר הקמפיין, הרעיון עלה לאחר הבחירות המוקדמות ביוני, כשראה סרטון על אנשים שתולים פרסומות פרודיות של AI ברכבת התחתית של ניו יורק. ״חשבתי, זו הזדמנות לעשות את זה נכון בלב החדשנות כאן, בסן פרנסיסקו״, הוא אמר. ״סן פרנסיסקו חווה עכשיו את הרגע הזה סביב AI ושלטי החוצות. ההייפ סביב התעשייה הפך לרגע תרבותי.״

כשהבוט מחליט לאלתר

ובכן, הרגע התרבותי הזה הפך מהר מאוד לרגע מביך. הבוט, שהופעל באמצעות מודל בינה מלאכותית גנרטיבי, התבקש לייצר תגובות בשמו של אדם אמיתי — יריב פוליטי — משימה שידועה כבעייתית. מהר מאוד הגיעו דיווחים שהצ'אטבוט מייצר תגובות גזעניות וסקסיסטיות, כולל הערות על המבטא של צ'אן ועל אזרחותה. צ'אן, יש לציין, היא אישה ממוצא סיני שהיגרה לארה״ב כנערה.

קמפיין צ'אן ובעלי בריתה מיהרו לצלם את התגובות האלה. לדברי יאן קרייגר, דובר הקמפיין של צ'אן, מעולם לא היה רעיון טוב שגבר ישים מילים בפיה של אישה — במיוחד כשמדובר בשקרים עמוסים ברמיזות גזעניות וסקסיסטיות. הוא הוסיף שוויינר ״נקנה ושולם על ידי ענקיות ה-AI״.

ההצתה הפוליטית

ויינר ניסה בתחילה להגן על הפרויקט כ״פארודיה״ שמטרתה להאיר את ״ההישגים האיומים״ של צ'אן בדיור, בתחבורה ובעניינים אחרים. הוא האשים את הצוות של צ'אן בכך שהם ״הציפו״ את הבוט בשאלות זדוניות על גזע, מגדר ומבטא כדי לעורר תגובות פוגעניות — טענה שצ'אן הכחישה.

אבל הביקורת הפכה חזקה מדי. מי שהצטרפה אליה הייתה לא פחות מאשר הפוליטיקאית שהוא תקף, ננסי פלוסי, שתמכה בצ'אן. ההתנגדות הייתה כה עזה, עד שוויינר הוריד את האתר ואת שלטי החוצות. בהצהרה שמסר ביום שישי שעבר, הוא הודה שהניסוי ״החטיא את המטרה״, התנצל והוסיף ש״חדשנות פירושה לנסות דברים חדשים, ופירושה גם להיות כנה כשמשהו לא נוחת כפי שהתכוונת.״

לקח טכנולוגי-פוליטי

המקרה הזה הוא מקרה בוחן מרתק, גם אם קצת טרגי, עבור כל מי שעוקב אחרי תחום ה-AI. הוא מראה את הסיכונים העצומים הטמונים בשימוש בבינה מלאכותית גנרטיבית למשימות רגישות, במיוחד כאלה שמערבות זהות אנושית אמיתית.

דוד אוון האריס, מרצה בבית הספר לעסקים של UC Berkeley, ציין את הסתירה: ויינר עצמו הוא קול בולט במדיניות AI, אך הקמפיין שלו השתמש בטכנולוגיה שידוע כי היא נוטה להטיות גזעיות ומגדריות. ״התחזות למועמד באמצעות AI, בין אם כדיפ-פייק מטעה בכוונה ובין אם כפארודיה עתירת טכנולוגיה, אינה דרך בריאה לעסוק בפוליטיקה״, הוא אמר.

המסקנה? קמפיינים פוליטיים כנראה ימשיכו להתנסות ב-AI. אבל, כפי שוויינר גילה על בשרו, ההחלטה לתת לציבור צ'אטבוט שכביכול מתחזה ליריב הפוליטי שלך יוצרת התחייבות פוליטית הרבה יותר גדולה ובלתי צפויה. לפעמים, הנשק ה״חכם״ שאתה מפתח כדי לפגוע ביריב מתהפך ופוגע בך. במקרה הזה, במחיר של 5,000 דולר ועוד חשבון יחסי ציבור כואב.