ابزاری برای تخمین مصرف برق پیام‌های چت‌بات‌های هوش مصنوعی

آیا تا به حال فکر کرده‌اید که چقدر برق با ارسال پیام یا تشکر از یک مدل هوش مصنوعی مصرف می‌کنید؟ جولیان دلاوانده، مهندس شرکت هاگینگ فیس (Hugging Face)، این سوال را از خود پرسید و ابزاری ساخت تا به این پاسخ دست یابد.

مدل‌های هوش مصنوعی هر بار که اجرا می‌شوند، انرژی مصرف می‌کنند. این مدل‌ها روی واحدهای پردازش گرافیکی (GPU) و چیپ‌های تخصصی اجرا می‌شوند که برای انجام حجم کاری محاسباتی در مقیاس بزرگ، نیاز به توان زیادی دارند. تعیین دقیق مصرف انرژی مدل‌ها آسان نیست، اما انتظار می‌رود که افزایش روزافزون استفاده از فناوری‌های هوش مصنوعی نیاز به برق را در چند سال آینده به اوج خود برساند.

تقاضا برای توان بیشتر برای تغذیه هوش مصنوعی، برخی شرکت‌ها را به سمت استراتژی‌های ناسازگار با محیط زیست سوق داده است. ابزارهایی مانند ابزار دلاوانده با هدف جلب توجه به این موضوع ساخته شده‌اند و شاید برخی کاربران هوش مصنوعی را به تأمل وا دارند.

دلاوانده و سایر سازندگان این ابزار در بیانیه‌ای نوشتند: "حتی صرفه‌جویی‌های کوچک در انرژی می‌توانند در میلیون‌ها پرس و جو مقیاس‌پذیر شوند - انتخاب مدل یا طول خروجی می‌تواند منجر به تأثیرات زیست‌محیطی عمده شود."

ابزار دلاوانده برای کار با چت یو‌آی (Chat UI)، یک رابط کاربری متن‌باز (open-source front-end) برای مدل‌هایی مانند لاما 3.3 نسخه 70B از متا (Meta) و جما 3 از گوگل (Google)، طراحی شده است. این ابزار مصرف انرژی پیام‌های ارسال شده به مدل و دریافت شده از آن را در زمان واقعی تخمین می‌زند و مصرف را بر حسب وات-ساعت (Watt-hour) یا ژول (Joule) گزارش می‌دهد. همچنین مصرف انرژی مدل را با لوازم خانگی رایج مانند مایکروویو و لامپ‌های ال‌ای‌دی (LED) مقایسه می‌کند.

طبق اطلاعات این ابزار، درخواست از مدل لاما 3.3 نسخه 70B برای نوشتن یک ایمیل معمولی تقریباً ۰٫۱۸۴۱ وات-ساعت انرژی مصرف می‌کند؛ این میزان معادل روشن بودن یک مایکروویو برای ۰٫۱۲ ثانیه یا استفاده از توستر برای ۰٫۰۲ ثانیه است.

شایان ذکر است که تخمین‌های این ابزار تنها همین هستند - تخمین. دلاوانده ادعا نمی‌کند که آنها فوق‌العاده دقیق هستند. با این حال، آنها یادآوری می‌کنند که همه چیز - از جمله چت‌بات‌ها - هزینه‌ای دارد.

دلاوانده و همکارانش نوشتند: "با پروژه‌هایی مانند امتیاز انرژی هوش مصنوعی و تحقیقات گسترده‌تر در مورد ردپای انرژی هوش مصنوعی، ما برای شفافیت در جامعه متن‌باز تلاش می‌کنیم. یک روز، مصرف انرژی می‌تواند به اندازه برچسب‌های تغذیه روی غذاها قابل مشاهده باشد!"