مدیرعامل آنتروپیک مدعی شد: مدل‌های هوش مصنوعی کمتر از انسان‌ها «توهم» می‌بافند

داریو آمودی (Dario Amodei)، مدیرعامل آنتروپیک (Anthropic)، معتقد است مدل‌های کنونی هوش مصنوعی (AI) با نرخ کمتری نسبت به انسان‌ها «توهم» می‌بافند؛ یعنی اطلاعات نادرست را به‌عنوان حقیقت ارائه می‌دهند. او این موضوع را روز پنج‌شنبه در جریان یک نشست خبری در اولین رویداد توسعه‌دهندگان آنتروپیک با عنوان «Code with Claude» در سانفرانسیسکو (San Francisco) بیان کرد.

آمودی این ادعا را در راستای نکته گسترده‌تری مطرح کرد: اینکه توهم‌های هوش مصنوعی مانعی در مسیر آنتروپیک برای دستیابی به هوش مصنوعی عمومی (AGI) – سیستم‌های هوش مصنوعی با سطح هوش انسانی یا بالاتر – محسوب نمی‌شوند.

آمودی در پاسخ به سوالی گفت: «بستگی دارد که چگونه آن را اندازه‌گیری کنید، اما من گمان می‌کنم مدل‌های هوش مصنوعی احتمالاً کمتر از انسان‌ها توهم می‌بافند، اما به روش‌های شگفت‌آورتری این کار را انجام می‌دهند.»

مدیرعامل آنتروپیک یکی از خوش‌بین‌ترین رهبران صنعت نسبت به دستیابی مدل‌های هوش مصنوعی به AGI است. در مقاله‌ای که سال گذشته منتشر شد و به‌طور گسترده‌ای مورد توجه قرار گرفت، آمودی گفته بود که معتقد است AGI می‌تواند به زودی و تا سال ۲۰۲۶ محقق شود. او در نشست خبری روز پنج‌شنبه اظهار داشت که شاهد پیشرفت مداوم در این زمینه است و خاطرنشان کرد: «آب همه جا بالا می‌آید» (اشاره به پیشرفت سریع و گسترده).

آمودی گفت: «همه همیشه به دنبال موانع سختی برای کاری که [هوش مصنوعی] می‌تواند انجام دهد، هستند. هیچ‌یک از آن‌ها دیده نمی‌شوند. چنین چیزی وجود ندارد.»

برخی دیگر از رهبران هوش مصنوعی معتقدند که توهم یک مانع بزرگ برای دستیابی به AGI است. اوایل هفته جاری، دمیس هاسابیس (Demis Hassabis)، مدیرعامل گوگل دیپ‌مایند (Google DeepMind)، گفت مدل‌های هوش مصنوعی امروزی حفره‌های زیادی دارند و به سوالات واضح و بدیهی پاسخ‌های اشتباه می‌دهند. به عنوان مثال، اوایل این ماه، وکیلی که نماینده آنتروپیک بود، مجبور شد در دادگاه عذرخواهی کند؛ زیرا از مدل زبانی بزرگ (LLM) کلود (Claude) برای ایجاد منابع و استنادات در یک پرونده قضایی استفاده کرده بود و این چت‌بات هوش مصنوعی دچار توهم شده و نام‌ها و عناوین را اشتباه وارد کرده بود.

صحت ادعای آمودی دشوار است، عمدتاً به این دلیل که اکثر معیارهای اندازه‌گیری توهم، مدل‌های هوش مصنوعی را با یکدیگر مقایسه می‌کنند و آن‌ها را با انسان‌ها مقایسه نمی‌کنند. به نظر می‌رسد برخی تکنیک‌ها به کاهش نرخ توهم کمک می‌کنند، مانند فراهم کردن دسترسی مدل‌های هوش مصنوعی به جستجوی وب. به‌طور جداگانه، برخی مدل‌های هوش مصنوعی، مانند GPT-4.5 از اوپن‌ای‌آی (OpenAI)، در معیارهای اندازه‌گیری نرخ توهم پایین‌تری نسبت به نسل‌های اولیه سیستم‌ها دارند.

با این حال، شواهدی نیز وجود دارد که نشان می‌دهد توهم در مدل‌های هوش مصنوعی پیشرفته‌تر که توانایی استدلال دارند، در واقع در حال بدتر شدن است. مدل‌های o3 و o4-mini اوپن‌ای‌آی نرخ توهم بالاتری نسبت به مدل‌های استدلالی نسل قبلی اوپن‌ای‌آی دارند و این شرکت واقعاً دلیل آن را نمی‌داند.

بعداً در نشست خبری، آمودی اشاره کرد که پخش‌کنندگان تلویزیون، سیاستمداران، و انسان‌ها در انواع مشاغل همیشه اشتباه می‌کنند. به گفته آمودی، این واقعیت که هوش مصنوعی نیز اشتباه می‌کند، نکته‌ای منفی در مورد هوش آن نیست. با این حال، مدیرعامل آنتروپیک اذعان داشت که اطمینانی که مدل‌های هوش مصنوعی با آن چیزهای نادرست را به عنوان واقعیت ارائه می‌دهند، ممکن است یک مشکل باشد.

در واقع، آنتروپیک تحقیقات قابل توجهی در مورد تمایل مدل‌های هوش مصنوعی به فریب انسان‌ها انجام داده است، مشکلی که به نظر می‌رسید به‌ویژه در مدل کلود اوپوس ۴ (Claude Opus 4) که اخیراً توسط این شرکت عرضه شد، شایع بود. موسسه تحقیقاتی آپولو (Apollo Research)، که دسترسی اولیه برای آزمایش این مدل هوش مصنوعی را داشت، دریافت که نسخه اولیه کلود اوپوس ۴ تمایل بالایی به دسیسه‌چینی و فریب انسان‌ها از خود نشان می‌دهد. آپولو حتی پیشنهاد کرد که آنتروپیک نباید آن نسخه اولیه را منتشر می‌کرد. آنتروپیک اعلام کرد که اقداماتی را برای کاهش این مشکلات انجام داده که به نظر می‌رسد مسائل مطرح شده توسط آپولو را حل کرده است.

اظهارات آمودی نشان می‌دهد که آنتروپیک ممکن است یک مدل هوش مصنوعی را AGI یا معادل هوش سطح انسانی در نظر بگیرد، حتی اگر همچنان دچار توهم شود. با این حال، هوش مصنوعی که توهم می‌بافد، ممکن است از نظر تعریف بسیاری از افراد، از سطح AGI کمتر باشد.