ردیت برای مقابله با ربات‌های هوش مصنوعی انسان‌نما، تأیید هویت کاربران را سخت‌تر می‌کند

هفته گذشته کاربران ردیت (Reddit) در سراسر جهان پس از اطلاع از اینکه تیمی از محققان مجموعه‌ای از ربات‌های مجهز به هوش مصنوعی (AI) را که هویت انسانی جعل می‌کردند در ساب‌ردیت (subreddit) «دیدگاه من را تغییر بده» (Change My View) منتشر کرده‌اند، دچار شوک شدند. این آزمایش در مقیاس وسیع طراحی شده بود تا بررسی کند هوش مصنوعی تا چه حد می‌تواند متقاعدکننده باشد.

ربات‌ها بیش از ۱۷۰۰ کامنت منتشر کردند و هویت‌هایی مانند بازماندگان آزار یا هویت‌های بحث‌برانگیز مانند مخالفان جنبش «جان سیاه‌پوستان مهم است» (Black Lives Matter) را جعل کردند.

برای ردیت، این حادثه یک کابوس کوچک بود. برند ردیت با اصالت مرتبط است – مکانی که افراد واقعی برای به اشتراک گذاشتن نظرات واقعی می‌آیند. اگر این اکوسیستم متمرکز بر انسان با محتوای بی‌کیفیت هوش مصنوعی مختل شود یا به مکانی تبدیل شود که مردم نمی‌توانند اعتماد کنند که اطلاعات را از انسان‌های واقعی دریافت می‌کنند، می‌تواند بیش از هویت اصلی ردیت را تهدید کند؛ درآمد ردیت نیز می‌تواند در خطر باشد، زیرا این شرکت اکنون محتوای خود را برای آموزش به اوپن‌ای‌آی (OpenAI) می‌فروشد.

این شرکت این «آزمایش نادرست و بسیار غیر اخلاقی» را محکوم کرد و شکایتی را نزد دانشگاهی که آن را اجرا کرده بود، ثبت نمود. اما آن آزمایش تنها یکی از موارد بسیاری خواهد بود که احتمالاً ربات‌های مجهز به هوش مصنوعی مولد (Generative AI) به دلایل مختلف، از علمی گرفته تا دستکاری سیاسی، وانمود می‌کنند انسان در ردیت هستند.

برای محافظت از کاربران در برابر دستکاری ربات‌ها و «انسان نگه داشتن ردیت»، این شرکت به‌طور آرام سیگنالی از اقدامی آتی داده است – اقدامی که ممکن است برای کاربرانی که به دلیل دیگری به ردیت می‌آیند: گمنامی (anonymity)، ناخوشایند باشد.

روز دوشنبه، استیو هافمن (Steve Huffman)، مدیرعامل ردیت، در پستی اعلام کرد که ردیت کار با «سرویس‌های شخص ثالث مختلف» را برای تأیید هویت انسانی کاربر آغاز خواهد کرد. این یک گام مهم برای پلتفرمی است که از نظر تاریخی برای ایجاد حساب کاربری تقریباً هیچ اطلاعات شخصی را از کاربران خود درخواست نمی‌کرده است.

هافمن نوشت: «برای انسان نگه داشتن ردیت و برآورده کردن الزامات نظارتی در حال تحول، ما به کمی اطلاعات بیشتر نیاز خواهیم داشت.» او افزود: «به‌طور خاص، ما باید بدانیم که آیا شما انسان هستید، و در برخی مناطق، آیا بالغ هستید. اما ما هرگز نمی‌خواهیم نام شما یا هویت واقعی شما را بدانیم.»

شرکت‌های رسانه‌های اجتماعی در حال حاضر پس از تصویب قوانینی در حداقل ۹ ایالت آمریکا و بریتانیا که تأیید سن را برای محافظت از کودکان در پلتفرم‌های خود اجباری می‌کنند، شروع به اجرای بررسی هویت کرده‌اند.

سخنگوی ردیت از توضیح درباره شرایطی که شرکت از کاربران می‌خواهد فرآیند تأیید هویت را طی کنند، خودداری کرد، اگرچه آنها تأیید کردند که ردیت در حال حاضر اقداماتی برای ممنوع کردن ربات‌های «بد» انجام می‌دهد. سخنگو همچنین جزئیات بیشتری درباره اینکه شرکت از کدام سرویس‌های شخص ثالث استفاده خواهد کرد یا کاربران چه نوع اطلاعات هویتی شخصی را باید ارائه دهند، به اشتراک نگذاشت.

بسیاری از شرکت‌های امروزی بر پلتفرم‌های تأیید هویت مانند پرسونا (Persona)، آلوی (Alloy)، استرایپ آیدنتیتی (Stripe Identity)، پلید (Plaid) و فوت‌پرینت (Footprint) تکیه می‌کنند که معمولاً برای تأیید سن و هویت انسانی به یک کارت شناسایی دولتی نیاز دارند. همچنین فناوری‌های جدیدتر و گمانه‌زنی بیشتری مانند تولز فور هیومنیتی (Tools for Humanity) سم آلتمن (Sam Altman) و دستگاه «اثبات انسان بودن» مبتنی بر اسکن چشم وجود دارد.

مخالفان بررسی هویت می‌گویند به اشتراک گذاشتن اطلاعات شخصی با پلتفرم‌های رسانه‌های اجتماعی ریسک‌های حریم خصوصی داده‌ها (data privacy) و امنیتی دارد. این امر به‌ویژه برای پلتفرمی مانند ردیت صادق است، جایی که مردم برای انتشار تجربیاتی می‌آیند که شاید هرگز منتشر نمی‌کردند اگر نامشان به آنها پیوست شده بود.

تصور دنیایی که در آن مقامات ممکن است ردیت را برای شناسایی، مثلاً، یک نوجوان باردار که در ساب‌ردیت r/women درباره تجربیات سقط جنین در ایالت‌هایی که اکنون غیرقانونی است سوال می‌کند، تحت پیگرد قانونی قرار دهند، دشوار نیست. فقط به نحوه واگذاری مکالمات خصوصی بین یک زن اهل نبراسکا و دختر ۱۷ ساله‌اش توسط متا (Meta) نگاه کنید که درباره برنامه‌های دومی برای پایان دادن به بارداری بحث می‌کردند. کمک متا منجر به کسب حکم بازرسی توسط اجرای قانون شد که نتیجه آن اتهامات جنایی برای مادر و دختر بود.

این دقیقاً همان ریسکی است که ردیت امیدوار است با استفاده از شرکت‌های بیرونی برای ارائه «اطلاعات ضروری و نه بیشتر» طبق گفته هافمن، از آن اجتناب کند؛ کسی که تأکید کرد «ما هرگز نمی‌خواهیم نام شما یا هویت واقعی شما را بدانیم.»

او گفت: «گمنامی برای ردیت ضروری است.»

مدیرعامل همچنین خاطرنشان کرد که ردیت همچنان «بسیار محافظه‌کارانه نسبت به اطلاعات شخصی شما» عمل خواهد کرد و «به مقابله با درخواست‌های بیش از حد یا نامعقول از سوی مقامات دولتی یا خصوصی ادامه خواهد داد.»