AI במערכת המשפט: טעות בבינה מלאכותית עיכבה הליך פלילי באוסטרליה

עו"ד באוסטרליה נאלץ להתנצל לאחר שהגיש מסמכים שכללו ציטוטים פיקטיביים מבוססי בינה מלאכותית

עו"ד בכיר מאוסטרליה (Rishi Nathwani, בעל תואר King’s Counsel) התנצל בפני בית המשפט העליון במדינת ויקטוריה לאחר שהגיש מסמכים שכללו ציטוטים מומצאים ופסקי דין דמיוניים שנוצרו על ידי בינה מלאכותית. האירוע התרחש בתיק רצח בו נאשם קטין, וגרם לעיכוב של 24 שעות בסגירת התיק.

השופט James Elliott הדגיש: "חוסר היכולת לסמוך על דיוק החומר המוגש מבטל את העקרונות הבסיסיים של הצדק. שימוש בכלי AI ללא אימות עצמאי - אינו קביל".

• הפרשה התגלתה כאשר עוזרי השופט זיהו ציטוטים מפוברקים מפרלמנט מקומי ופסקי דין שלא התקיימו.
• הצוות המשפטי הודה שנפל קורבן ל**'הזיות AI' (AI hallucinations)** וקיבל אחריות על הטעות.

מקרים דומים בעולם

• בארה"ב: עורכי דין נקנסו ב-5,000$ לאחר שסיפקו מחקר משפטי פיקטיבי באמצעות ChatGPT (2023).
• מייקל כהן, עו"ד לשעבר של טראמפ, השתמש בטעות בכלי AI של גוגל שיצר פסקי דין לא קיימים.
• בבריטניה איימו בהגשת כתבי אישום פליליים על מתן חומר שקרי - עד כדי מאסר עולם במקרים חמורים.