קנס של 24 אלף דולר לעורכי דין: ההשלכות המסוכנות של שימוש ב-AI ללא בקרה

עורכי דין נקנסו ב-24 אלף דולר על שימוש ב-AI שהמציא ציטוטים

בית משפט פדרלי חייב עורכי דין המייצגים את ליגת הכדורגל של פוארטו ריקו בתשלום קנס של מעל 24,000 דולר, לאחר שהגישו מסמכים שהכילו טעויות מזויפות שנוצרו בידי בינה מלאכותית. המקרה מתייחס לתביעה אנטי-מונופולין נגד FIFA, ומצטרף לעשרות מקרים דומים בארה"ב.

"זה עניין של זמן עד שלישיונות יישללו"

מומחים בתחום המשפטי מזהירים כי השימוש ב-Open AI כגון ChatGPT או Claude מביאה לסיכונים משפטיים חסרי תקדים. שון פיצפטריק, מנכ"ל LexisNexis בצפון אמריקה, טוען בראיון ל-Fortune כי:

"מדובר בכלים שיוצרים חוקים מדומים. הסיכונים עולים - ויש לזכור שזו אחריות בלעדית של עורך הדין"

הנתונים המדאיגים:

• מאגר המידע של דמיין צ'ארלוין, חוקר ב-HEC פריז, מונה 376 מקרים של הזיות AI בתחום המשפטי (244 בארה"ב בלבד)
• סכנת חשיפת מידע רגיש: הזנת נתונים ל-LLM ציבורי עלולה לשבור את חיסיון עורך-דין לקוח
• העתקת ציטוטים ללא אימות הפכה מסוכנת פי כמה עם כניסת ה-AI

הפתרונות האפשריים

LexisNexis משווקת את Lexis+ AI ככלי "מוגן" יותר, בשל:

• שימוש במאגר מידע סגור (Walled Garden)
• הצהרה על אי-אימון מודלים על נתוני לקוחות
• הצפנת שאילתות

אך פרופ' פרנק אמרט מאוניברסיטת אינדיאנה מסייג: "אין באמת מודלים חסיני הזיות. אנחנו עדיין בשלב הינקות של הטכנולוגיה, ונדרש אימון מסיבי של עורכי הדין והשופטים".