هشدار دادگاه عالی انگلستان به وکلا درباره استنادهای جعلی تولید شده با هوش مصنوعی

دادگاه عالی انگلستان و ولز هشدار داده است که وکلای دادگستری باید اقدامات جدی‌تری برای جلوگیری از سوءاستفاده از هوش مصنوعی در کار خود انجام دهند و استفاده از استنادهای جعلی تولید شده توسط هوش مصنوعی می‌تواند با جریمه‌های سنگینی روبرو شود.

قاضی ویکتوریا شارپ در حکمی که دو پرونده اخیر را به هم مرتبط می‌کند، نوشت که ابزارهای هوش مصنوعی مولد (Generative AI) مانند چت‌جی‌پی‌تی (ChatGPT) «قادر به انجام تحقیقات حقوقی قابل اعتماد نیستند». او افزود: «این ابزارها می‌توانند پاسخ‌های ظاهراً منسجم و قابل قبولی به سوالات ارائه دهند، اما این پاسخ‌های منسجم و قابل قبول ممکن است کاملاً نادرست از آب درآیند. این پاسخ‌ها ممکن است ادعاهای مطمئنی داشته باشند که به سادگی نادرست هستند.»

وی تاکید کرد که این به معنای عدم استفاده وکلا از هوش مصنوعی در تحقیقاتشان نیست، اما آن‌ها وظیفه حرفه‌ای دارند که «دقت چنین تحقیقاتی را با مراجعه به منابع معتبر، قبل از استفاده در کار حرفه‌ای خود، بررسی کنند.»

قاضی شارپ اشاره کرد که افزایش تعداد پرونده‌هایی که وکلا در آن‌ها (از جمله در ایالات متحده، وکلای نمایندگی پلتفرم‌های بزرگ هوش مصنوعی) به آنچه به نظر می‌رسد اطلاعات نادرست تولید شده توسط هوش مصنوعی استناد کرده‌اند، نشان می‌دهد که «باید اقدامات بیشتری انجام شود تا اطمینان حاصل شود که دستورالعمل‌ها رعایت شده و وکلا به وظایف خود در قبال دادگاه عمل می‌کنند.» وی گفت که حکم او برای نهادهای حرفه‌ای از جمله کانون وکلای دادگستری و جامعه حقوقی ارسال خواهد شد.

در یکی از پرونده‌های مورد بحث، وکیلی که نماینده مردی بود که به دنبال دریافت خسارت از دو بانک بود، اظهارنامه‌ای با 45 استناد ارائه کرد. 18 مورد از این پرونده‌ها وجود خارجی نداشتند، در حالی که بسیاری دیگر «حاوی نقل قول‌هایی که به آن‌ها نسبت داده شده بود نبودند، از ادعاهایی که برای آن‌ها استناد شده بودند حمایت نمی‌کردند و هیچ ارتباطی با موضوع درخواست نداشتند،» به گفته قاضی شارپ.

در پرونده دیگر، وکیلی که نماینده مردی بود که از خانه خود در لندن اخراج شده بود، اظهارنامه‌ای به دادگاه ارائه کرد که به پنج پرونده استناد می‌کرد که به نظر نمی‌رسید وجود داشته باشند. (وکیل استفاده از هوش مصنوعی را انکار کرد، اگرچه گفت که استنادها ممکن است از خلاصه مطالب تولید شده توسط هوش مصنوعی که در «گوگل یا سافاری» ظاهر شده بودند آمده باشند.) قاضی شارپ گفت که با وجود اینکه دادگاه تصمیم گرفت روند رسیدگی به اتهام اهانت به دادگاه را آغاز نکند، این «یک سابقه نیست.»

وی افزود: «وکلایی که به وظایف حرفه‌ای خود در این زمینه عمل نکنند، در معرض مجازات شدید قرار می‌گیرند.»

هر دو وکیل یا به نهادهای نظارتی حرفه‌ای ارجاع داده شدند یا خود را به آن‌ها ارجاع دادند. قاضی شارپ خاطرنشان کرد که هنگامی که وکلا به وظایف خود در قبال دادگاه عمل نمی‌کنند، اختیارات دادگاه از «تذکر عمومی» تا تحمیل هزینه‌ها، رسیدگی به اتهام اهانت به دادگاه یا حتی «ارجاع به پلیس» متغیر است.