اعتراف و عذرخواهی وکیل آنتروپیک پس از جعل ارجاع قانونی توسط چت‌بات Claude

بر اساس سندی که روز پنجشنبه در دادگاهی در شمال کالیفرنیا ارائه شد، وکیلی که نماینده شرکت آنتروپیک (Anthropic) است، اعتراف کرد که از یک استناد (citation) نادرست که توسط چت‌بات هوش مصنوعی Claude این شرکت ایجاد شده بود، در جریان دعوای حقوقی جاری آنتروپیک با ناشران موسیقی استفاده کرده است.

آنتروپیک در این سند که نخستین بار توسط بلومبرگ گزارش شد، اعلام کرد که Claude این استناد را با «عنوان نادرست و نویسندگان اشتباه» جعل (hallucinated) کرده است. وکلای آنتروپیک توضیح دادند که «بررسی دستی استنادها» توسط آن‌ها نتوانسته این خطا و چندین خطای دیگر ناشی از «توهمات» (hallucinations) Claude را شناسایی کند.

آنتروپیک بابت این خطا عذرخواهی کرده و آن را «یک اشتباه صادقانه در استناد و نه یک جعل عامدانه مرجع» خواند.

اوایل همین هفته، وکلای نماینده گروه موسیقی یونیورسال (Universal Music Group) و دیگر ناشران موسیقی، شاهد متخصص آنتروپیک – یکی از کارمندان شرکت به نام اولیویا چن (Olivia Chen) – را متهم کردند که در شهادت خود از Claude برای استناد به مقالات جعلی استفاده کرده است. سوزان ون کولن (Susan van Keulen)، قاضی فدرال، سپس به آنتروپیک دستور داد تا به این اتهامات پاسخ دهد.

دعوای قضایی ناشران موسیقی یکی از چندین اختلاف بین صاحبان حق کپی‌رایت و شرکت‌های فناوری بر سر استفاده «غیرمجاز» از آثار آن‌ها برای ایجاد ابزارهای هوش مصنوعی مولد (generative AI) است.

این آخرین مورد از استفاده وکلا از هوش مصنوعی در دادگاه و ابراز پشیمانی از این تصمیم است. اوایل همین هفته، یک قاضی در کالیفرنیا دو شرکت حقوقی را به دلیل ارائه «تحقیقات جعلی تولید شده توسط هوش مصنوعی» در دادگاهش به‌شدت مورد انتقاد قرار داد. در ژانویه گذشته نیز یک وکیل استرالیایی هنگام استفاده از ChatGPT برای تهیه اسناد دادگاهی، توسط چت‌بات با استنادهای اشتباه مواجه شد.

با این حال، این خطاها باعث توقف استارتاپ‌ها در جذب سرمایه‌گذاری‌های عظیم برای خودکارسازی کارهای حقوقی نشده است. گزارش‌ها حاکی از آن است که شرکت هاروی (Harvey)، که از مدل‌های هوش مصنوعی مولد برای کمک به وکلا استفاده می‌کند، در حال مذاکره برای جذب بیش از ۲۵۰ میلیون دلار سرمایه با ارزشی معادل ۵ میلیارد دلار است.