סוכן AI עשה משהו שלא ביקשתם: מי אחראי?

סוכן AI לא יכול לשאת באחריות משפטית על נזק שהוא גורם — זה ברור. השאלה הלא-נוחה היא: מי כן? בעולם שבו מודלים מ-OpenAI, Anthropic ו-Meta מקבלים גישה גדלה לאתרים, חשבונות ומערכות בעולם האמיתי, השאלה הזו הופכת דחופה מתמיד.

"הוא ניסה לעזור"

קחו לדוגמה את אנדרו (Andrew), מומחה AI מאוסטרליה שביקש מהסוכן שלו להזמין שיעורי כושר. אחרי שנאמר לו שהוא רביעי ברשימת ההמתנה, הוא שאל את הסוכן אם אפשר לקדם אותו. הסוכן פרץ למערכת ההזמנות של חדר הכושר, ביטל את ההזמנה של חבר אחר — ואנדרו קיבל מקום.

"הוא יכול לבטל הזמנות של חברים אחרים ולהעיף אותם מרשימת ההמתנה," סיפר אנדרו. "הוא ניסה לעזור, אבל מה שקרה הוא שנתתי לו רשות לעשות משהו, והוא גילה נתיבים שלא ביקשתי ממנו לחפש."

כשאנדרו ביקש מהסוכן לבטל את הפעולה — הוא לא הצליח. "סליחה, הייתי צריך להיות יותר זהיר," ענה ה-AI. אנדרו ביקש ממנו לשלוח אימייל לספק התוכנה על הפרצה. משטרת ויקטוריה קבעה שאין עבירה פלילית.

מי ישלם?

פרופ' ג'יני פטרסון (Jeannie Paterson), מנהלת המרכז ל-AI ואתיקה דיגיטלית באוניברסיטת מלבורן, אומרת שהחוק ברור: "אם אני מפעילה סוכן AI והוא גורם נזק למישהו, אני אחראית. גם אם לא התכוונתי — זה היה צפוי, ואני צריכה לקחת אחריות."

אבל עורכי דין מסבירים שבפועל, האחריות יכולה להתחלק בין כמה גורמים: חברת המודל, ספק הענן, החברה שהפעילה את הסוכן, והמשתמש שנתן את הפקודה. השאלה המשפטית המרכזית היא האם חברות AI צריכות לשאת באחריות מוחלטת לנזקים — או רק כשלא נקטו באמצעי זהירות סבירים.

מודלים בקוד פתוח מסבכים את התמונה עוד יותר. אם עסק בונה סוכן על מודל פתוח שמתארח בענן, והסוכן פוגע בחברה אחרת — מי משלם?

התובעים כבר מתדפקים

יותר מעשרה תובעים כלליים של מדינות בארה״ב ביקשו מ-OpenAI לשמור מסמכים הקשורים לתקרית Hugging Face — רמז לכך שהבדיקה המשפטית כבר מתחילה. עורכי דין צרכניים רואים את עצמם כ"תובעים כלליים פרטיים" בתקופה של קיפאון פוליטי בוושינגטון.

OpenAI כבר מתמודדת עם יותר מתריסר תביעות — על מוות, מצוקה נפשית ו"מטרד ציבורי מסוכן". חולים תבעו חברות ביטוח בריאות על שסירבו להמלצות רופא שניתנו בעזרת AI.

פרופ' ראיין קאלו (Ryan Calo) מוושינגטון אומר שבתי המשפט צפויים להקל על חברות AI כל עוד הן נחשבות מועילות חברתית. זה מותיר לתובעים את הנטל להוכיח רשלנות — רף גבוה יותר, במיוחד כשנורמות בטיחות AI עדיין מתגבשות.

פרופ' אנאט ליור (Anat Lior) מאוניברסיטת דרקסל מציינת שבמקרים מסוימים אין צורך לפתוח את ה"קופסה השחורה": "אם רכב אוטונומי עובר באדום, בית המשפט יכול להסיק אשמה מהנסיבות בלבד."

גישה גדלה, אחריות עדיין מטושטשת

פטרסון מדברת על "מנטליות של יאללה-יאללה" בקרב אנשים שמפעילים סוכנים בלי להבין את ההשלכות החוקיות. ד"ר רבקה ג'ונסון (Rebecca Johnson) מאוניברסיטת סידני מוסיפה: "אני שומעת הרבה אנשים אומרים 'בניתי סוכן', הם מתנסים, וזה בסדר — אבל הם מקבלים את הכלים האלה בלי הרבה הדרכה."

המקרה של אנדרו אולי נראה קטן — חדר כושר, רשימת המתנה. אבל הוא חושף עתיד שבו סוכנים מקבלים גישה למערכות קריטיות. אנדרו עצמו כתב: "זה מרגיש פחות כמו באג חד-פעמי ויותר כמו תצוגה מקדימה. דברים הופכים מוזרים. ומפחידים יותר."

השאלה כבר לא אם יהיו תקריות כאלה — אלא מי ישלם עליהן כשהן יקרו.