هوش مصنوعی

شرکت Uptime Industries با دستگاه Lemony AI به دنبال گسترش هوش مصنوعی محلی است

دستگاه Lemony AI می‌تواند مدل‌های زبان بزرگ، عوامل هوش مصنوعی و فرآیندهای خودکار را به صورت محلی اجرا کند.

۱۴۰۴/۰۳/۲۱

Uptime Industries دستگاه کوچک و قابل حمل Lemony AI را برای اجرای هوش مصنوعی محلی معرفی کرده است. این دستگاه که قادر به اجرای مدل‌های زبان بزرگ و فرآیندهای هوش مصنوعی است، با تمرکز بر حریم خصوصی داده‌ها طراحی شده و در صنایع تنظیم شده تقاضای بالایی دارد. Uptime تاکنون ۲ میلیون دلار سرمایه جذب کرده و قصد دارد نرم‌افزار خود را روی سخت‌افزارهای دیگر نیز عرضه کند.

شرکت Uptime Industries با معرفی دستگاه قابل حمل «هوش مصنوعی در جعبه» (AI-in-a-box) با نام Lemony AI، روی زیرساخت‌های هوش مصنوعی محلی (on-premise) سرمایه‌گذاری می‌کند.

اندازه Lemony AI در حد یک ساندویچ است و گفته می‌شود می‌تواند یک مدل زبان بزرگ (large language model - LLM)، عوامل هوش مصنوعی (AI agents) و فرآیندهای کاری هوش مصنوعی (AI workflows) را همگی روی یک گره اجرا کند. هر دستگاه Lemony تنها به ۶۵ وات برق نیاز دارد که معادل شارژ یک لپ‌تاپ است و می‌توان آن‌ها را روی هم چید و برای تشکیل خوشه‌های هوش مصنوعی (AI clusters) بزرگ‌تر به هم متصل کرد.

ساسچا بورله (Sascha Buehrle)، هم‌بنیان‌گذار و مدیرعامل Uptime، به تک‌کرانچ گفت که هر گره می‌تواند یک مدل زبان بزرگ تا اندازه ۷۵ میلیارد پارامتر را پشتیبانی کند و قادر است مدل‌های متن‌باز یا نسخه‌های بازسازی‌شده مدل‌های بسته را میزبانی کند. در خوشه‌ای از گره‌های Lemony، هر دستگاه می‌تواند یک مدل متفاوت را اجرا کند.

Uptime فعالیت خود را با همکاری با IBM و JetBrains آغاز می‌کند تا دسترسی آسان‌تری به مدل‌های هوش مصنوعی، از جمله مدل‌های بسته IBM، برای مشتریان خود فراهم کند.

مانند اکثر استارتاپ‌های فناوری، ایده Lemony AI از یک پروژه جانبی نشأت گرفت: هم‌بنیان‌گذاران Uptime، بورله و ایوان کولشوف (Ivan Kuleshov)، در تلاش بودند تا ببینند آیا می‌توانند مدل‌های زبان را روی ریزکامپیوترهای Raspberry Pi توزیع کنند و اگرچه این کار در ابتدا به هوش مصنوعی مولد (generative AI) مرتبط نبود، اما وقتی موفق شدند، شروع به آزمایش قابلیت‌های دیگر این دستگاه‌ها کردند.

وقتی متوجه شدند که اجرای مدل‌ها روی دستگاه‌های محلی می‌تواند کلید افزایش پذیرش هوش مصنوعی توسط سازمان‌ها باشد – مثلاً شرکت‌هایی که نمی‌خواهند از مدل‌های مبتنی بر ابر استفاده کنند – شروع به ساخت دستگاه خود کردند. آن‌ها فکر کردند که کوچک‌سازی با تأکید بر حریم خصوصی داده‌ها می‌تواند شرکت‌ها را به سرعت بیشتری به پذیرش هوش مصنوعی سوق دهد.

بورله گفت: «ما نیاز داریم چیزی کوچک بسازیم که به راحتی وارد تیم‌ها شود و نیازی به تصمیم‌گیری در سطح سازمانی نداشته باشد – اساساً آوردن راه‌حل‌های هوش مصنوعی مولد محلی به تیم‌های تجاری.» وی افزود که خوشه‌هایی از دستگاه‌های کوچک و قدرتمند می‌توانند به رشد سیستم مطابق با نیازهای مشتری کمک کنند.

این شرکت می‌گوید که تاکنون تقاضای بالایی از کسب‌وکارها در صنایع به شدت تنظیم شده مانند مالی، مراقبت‌های بهداشتی و حقوق دیده است.

بورله اظهار داشت: «همه‌چیز در جعبه شما باقی می‌ماند. بنابراین اسناد، فایل‌ها، ایمیل‌های شما – مدل‌ها در جعبه میزبانی می‌شوند، عوامل هوش مصنوعی به صورت محلی در جعبه اجرا می‌شوند و چیزی از جعبه خارج نمی‌شود.»

Uptime تاکنون ۲ میلیون دلار در دور سرمایه‌گذاری بذری (seed funding) به رهبری True Ventures و با مشارکت Alumni Ventures، JetBrains و برخی سرمایه‌گذاران فرشته (angel investors) جذب کرده است. این شرکت از این وجوه برای توسعه بیشتر دستگاه‌های خود استفاده خواهد کرد.

این استارتاپ می‌گوید که برنامه فعلی این است که نرم‌افزار توسعه یافته برای ریزکامپیوترهای هوش مصنوعی خود، Lemony OS، روی سخت‌افزارهای شرکت‌های دیگر مانند Nvidia DGX Spark کار کند. همچنین قصد دارد نرم‌افزار را از تمرکز فعلی بر کاربر واحد به سمت قابلیتی برای استفاده تیمی گسترش دهد.

هزینه استفاده از Lemony AI ماهانه ۴۹۹ دلار است و می‌تواند توسط حداکثر پنج کاربر مورد استفاده قرار گیرد.

منبع: تک‌کرانچ

به مطالعه ادامه دهید