پینترست ابزارهای جدیدی برای مقابله با محتوای هوش مصنوعی معرفی می‌کند

پینترست اعلام کرده است که سرانجام اقداماتی را برای مقابله با آنچه «محتوای بی‌کیفیت هوش مصنوعی» (AI slop) نامیده می‌شود و پلتفرم آن را فرا گرفته، انجام خواهد داد.

پس از افزایش حجم شکایات، این شبکه اجتماعی و سایت اشتراک‌گذاری تصاویر روز چهارشنبه برنامه‌ای را برای آغاز برچسب‌گذاری تصاویر تولید شده و ویرایش شده توسط هوش مصنوعی (AI) اعلام کرد. همچنین گزینه‌ی جدیدی را معرفی خواهد کرد که به کاربران امکان می‌دهد تعداد «پین‌های» (Pins) هوش مصنوعی مولد (Generative AI) را که مشاهده می‌کنند، کاهش دهند.

این ویژگی‌های جدید نشان‌دهنده جدی بودن تهدید هوش مصنوعی مولد برای پلتفرم‌هایی است که بر اساس محتوای تولید شده توسط کاربران، همکاری جمعی و اشتراک‌گذاری اجتماعی بنا شده‌اند. فناوری هوش مصنوعی این امکان را برای بازیگران مخرب فراهم کرده است تا این پلتفرم‌ها را با تصاویر جعلی پر کنند که محتوای تولید شده توسط انسان را تحت‌الشعاع قرار می‌دهد و تجربه کلی کاربر را بی‌ارزش می‌کند. پین‌های تولید شده توسط هوش مصنوعی و دیگر محتواهای هوش مصنوعی با کیفیت پایین – که اغلب به عنوان «AI slop» شناخته می‌شوند – واکنش منفی پایگاه کاربری وفادار پینترست را در پی داشته است.

اکنون، پینترست می‌گوید به کاربران کمک خواهد کرد تا به راحتی تشخیص دهند چه چیزی هوش مصنوعی است و چه چیزی نیست.

هنگامی که کاربران روی یک پین تصویری در نمای نزدیک کلیک می‌کنند، یک برچسب «ویرایش شده با هوش مصنوعی» (AI modified) در گوشه پایین سمت چپ مشاهده خواهند کرد. این شرکت می‌گوید برای کمک به تشخیص هوش مصنوعی، «فراداده» (Metadata) تصویر را تجزیه و تحلیل خواهد کرد، اما همچنین سیستم طبقه‌بندی‌کننده خود را نیز توسعه داده است که به طور خودکار محتوای هوش مصنوعی را که «نشانه‌های واضحی» ندارد، شناسایی می‌کند.

به گفته شرکت، تولیدکنندگان محتوا در صورت برچسب‌گذاری نادرست محتوایشان می‌توانند به پینترست درخواست تجدید نظر دهند.

مهم‌تر از آن، پینترست می‌گوید در یک ویژگی آینده، کنترل بیشتری بر میزان محتوای هوش مصنوعی که می‌بینند، به کاربران خواهد داد.

هنگام راه‌اندازی، کاربران قادر خواهند بود در برخی دسته‌بندی‌ها – مانند زیبایی و هنر – که مستعد پر شدن از محتوای هوش مصنوعی هستند، گزینه «کمتر نمایش بده» (see fewer) را برای پین‌های هوش مصنوعی مولد انتخاب کنند. با گذشت زمان، این گزینه به دسته‌بندی‌های دیگر نیز گسترش خواهد یافت.

هنگامی که این گزینه در دسترس قرار گیرد، در منوی سه‌نقطه در پایین سمت راست یک پین یافت می‌شود. به گفته شرکت در یک پست وبلاگی، کلیک بر روی این گزینه سیگنالی به سیستم‌های پینترست ارسال می‌کند تا محتوای هوش مصنوعی کمتری به کاربران توصیه شود.

پینترست زمان راه‌اندازی این تنظیمات کنترلی جدید را مشخص نکرد – تنها گفت که «به زودی» عرضه خواهد شد.

برای سایتی مانند پینترست که کاربران را برای مرور و ذخیره تصاویر الهام‌بخش در زمینه‌هایی مانند مد، دکوراسیون منزل، سفر، هنر، دستور پخت، کارهای دستی (DIY)، زیبایی، نکات والدین و غیره جذب می‌کرد، سیل محتوای هوش مصنوعی می‌تواند سایت را از بین ببرد. برخی کاربران به دلیل تصاویر هوش مصنوعی که سایت را تصرف کرده‌اند، از قبل اعلام کرده‌اند که سایت دیگر کارایی ندارد.

به عنوان مثال، در ردیت، کاربران برای ماه‌ها نسبت به هجوم محتوای بی‌کیفیت هوش مصنوعی به پینترست اعتراض کرده‌اند و به افزایش چشمگیر این محتوای کم‌ارزش اشاره کرده‌اند. آنها می‌گویند تصاویر هوش مصنوعی در سراسر سایت راه یافته‌اند، چه در حال مرور محتوا، جستجو یا مشاهده پیشنهادهای بورد باشند. رسانه‌ها نیز کاهش کیفیت را در مقالاتی مستند کرده‌اند که می‌پرسند آیا هوش مصنوعی پلتفرم را از بین برده است یا خیر.

پینترست می‌گوید قصد دارد در ماه‌های آینده ابزارهای بیشتری را برای توسعه کار خود در زمینه هوش مصنوعی معرفی کند و اضافه کرد که همچنان معتقد است هوش مصنوعی مولد در صورت پیاده‌سازی متفکرانه، می‌تواند الهام‌بخش باشد.

مت مدریگال، مدیر ارشد فناوری (CTO) پینترست، در بیانیه‌ای گفت: «همانطور که مردم با محتوای تولید شده توسط هوش مصنوعی در پینترست مواجه می‌شوند، ما کاربران خود را قادر می‌سازیم تا انتخاب‌های آگاهانه‌تری در مورد محتوایی که می‌بینند، انجام دهند. محتوای هوش مصنوعی مولد در پینترست باید توانایی کاربران را برای کشف و اقدام بر اساس الهاماتشان افزایش دهد و ما به طور هدفمند و با تفکر به این چشم‌انداز جدید نزدیک می‌شویم تا برای همه در پینترست سودمند باشد.»