בעולם שבו כל עורך דין מחפש יתרון טכנולוגי, שופטת פדרלית מניו יורק לקחה צעד דרמטי נגד שימוש לרעה ב-AI. השופטת קתרין פולק פיילה פסלה השבוע תיק משפטי בשל שימוש חוזר ולא תקין של עורך הדין סטיבן פלדמן בכלי בינה מלאכותית בעריכת כתבי טענות. המקרה מדגים את הסכנות האמיתיות בשימוש לא מקצועי ב-AI במערכת המשפטית. לפי הדיווח, פלדמן סיפק מסמכים עם ציטוטים מזויפים, מה שהוביל לסנקציות יוצאות דופן. זהו אזהרה ברורה למשרדי עורכי דין שמתקרבים לטכנולוגיה זו.
השופטת פיילה פרסמה פסק דין ביום חמישי, שבו קבעה כי סנקציות חמורות מוצדקות. עורך הדין פלדמן המשיך להגיש מסמכים בעייתיים גם לאחר בקשות לתיקון. אחד המסמכים בלט במיוחד בזכות פרוזה פרחונית במיוחד, שכללה התייחסויות מפתיעות לספריות עתיקות ולספרו של ריי ברדברי 'פרהייט 451'. בניגוד למסמכים קודמים שהכילו שגיאות דקדוקיות ומשפטים ארוכים מדי, מסמך זה נראה שונה לחלוטין בסגנונו, מה שמעיד על השפעת AI.
המקרה התחיל כאשר פלדמן הגיש כתבי טענות שנבנו בעזרת AI, אך כללו ציטוטי פסקי דין וחוקים שלא קיימים במציאות. השופטת דרשה תיקונים, אך התגובות כללו שגיאות דומות שוב ושוב. לפי הדיווח, השופטת תיארה את אחד המסמכים כ'בולט בפרוזה הפרחונית שלו בצורה מובהקת'. זהו דוגמה קלאסית לשימוש לרעה בכלי AI כמו ChatGPT, שמייצרים טקסט משכנע אך לא מדויק.
ההחלטה של השופטת פיילה היא נדירה ומשמעותית. בתי משפט בארה"ב מתמודדים יותר ויותר עם שימוש ב-AI, אך פסילת תיק שלם היא צעד קיצוני. המקרה מדגיש את הצורך באימות אנושי של תוכן המיוצר על ידי AI. עבור עורכי דין ישראלים, שגם הם מאמצים כלים כאלה, זהו תזכורת חשובה: AI יכול להיות כלי רב עוצמה, אך ללא פיקוח הוא עלול להרוס קריירות ולפגוע באמון הציבורי במערכת המשפט.
מה המשמעות העסקית? משרדי עורכי דין ומנהלי טכנולוגיה צריכים להטמיע נהלי בדיקה מחמירים לשימוש ב-AI. זה כולל הכשרות לעורכי דין לבדיקת ציטוטים והתאמה לסטנדרטים משפטיים. המקרה הזה מציב תקדים שישפיע על אימוץ AI בתחום המשפטי בעולם כולו, כולל בישראל שבה משרדים גדולים כבר משקיעים בכלים אוטומטיים.