سم آلتمن: چت‌بات‌ها شبکه‌های اجتماعی را «جعلی» می‌سازند
سم آلتمن، از طرفداران پلتفرم X و سهامدار Reddit ، روز دوشنبه به یک «کشف بزرگ» رسید: به گفته او، چت بات ها تشخیص این که پست‌های شبکه‌های اجتماعی واقعاً توسط انسان‌ها نوشته شده‌اند یا نه را غیرممکن کرده‌اند.
این ایده هنگام خواندن (و به اشتراک گذاری) برخی پست‌های Reddit در r/Claudecode به ذهنش رسید که در آنها از OpenAI Codex تمجید شده بود. OpenAI این سرویس برنامه‌نویسی را در ماه می راه‌اندازی کرد تا رقیبی برای Claude Code شرکت Anthropic باشد.
اخیراً این subreddit آنقدر پر از پست‌های کاربرانی شده که ادعا می‌کنند از Claude به Codex مهاجرت کرده‌اند که حتی یکی از کاربران ردید شوخی کرد: «آیا ممکن است بدون ایجاد یک تایپیک در Reddit به Codex کوچ کرد؟»
این موضوع آلتمن را به فکر فرو برد که چند درصد از این پست‌ها واقعاً از انسان‌هاست. او در پستی در X اعتراف کرد:
«حین خواندن این مطالب عجیب‌ترین تجربه را داشتم: با خودم فرض می‌کنم همه‌شان جعلی/بات هستند، حتی اگر می‌دانم که رشد Codex واقعاً قوی است و این ترند واقعی است.»
او سپس استدلال خود را به صورت زنده تحلیل کرد.
«فکر می‌کنم کلی اتفاق در حال رخ دادن است: مردم واقعی ویژگی‌های عجیب و غریب زبان LLM را یاد گرفته‌اند، جمعیت Extremely Online به روش‌های بسیار مرتبطی به هم نزدیک می‌شوند، چرخه تبلیغات افراطی، یک افراط‌گرایی شدیداً «تمام شد/ما خیلی برگشتیم» دارد، فشار بهینه‌سازی از سوی پلتفرم رسانه‌های اجتماعی برای افزایش مشارکت و نحوه‌ی مرتبط کسب درآمد از تولیدکنندگان محتوا، شرکت‌های دیگر ما را به صورت فضایی استخدام کرده‌اند، بنابراین من نسبت به آن بسیار حساس هستم، و کلی اتفاقات دیگر (از جمله احتمالاً برخی چت بات‌ها).»
برای درک بهتر این اظهارات، او در واقع انسان‌ها را متهم می‌کند که دارند شبیه LLMها حرف می‌زنند، حال آن که این مدل‌ها – با پیشگامی OpenAI – اساساً برای تقلید از ارتباطات انسانی، تا حد نشانه‌گذاریِ جمله، اختراع شده‌اند. و مدل‌های OpenAI قطعاً روی داده‌های Reddit آموزش دیده‌اند – جایی که آلتمن تا سال ۲۰۲۲ عضو هیئت مدیره بود و در جریان عرضه اولیه سهام این شرکت در سال گذشته به عنوان یکی از سهامداران بزرگ آن افشا شد.
نکته به‌جایی که او مطرح می‌کند این است که طرفداران (با هدایت کاربران بسیار فعال و همیشه‌آنلاین شبکه‌های اجتماعی) واقعاً تمایل دارند به شیوه‌های عجیبی رفتار کنند. بسیاری از گروه‌ها می‌توانند به عرصه ابراز تنفر تبدیل شوند اگر افرادی که برای همنژادان خود تخلیه هیجانی می‌کنند، در آنجا غالب شوند.
آلتمن همچنین به انگیزه‌هایی که وقتی سایت‌های شبکه‌های اجتماعی و سازندگان محتوا برای کسب درآمد به تعامل متکی هستند، کنایه می‌زند. که البته منصفانه است.
اما سپس آلتمن اعتراف می‌کند که یکی از دلایلی که فکر می‌کند پست‌های طرفدار OpenAI در این subreddit ممکن است از جانب چت‌بات‌ها باشد، این است که OpenAI نیز هدف «کمپین‌های ساختگی» قرار گرفته است. این امر معمولاً شامل پست‌هایی توسط افراد یا چت‌بات‌های تحت حمایت مالی رقیب (یا پیمانکاران سطح سوم) می‌شود که برای رقیب انکارپذیری معقول فراهم می‌کند.
ما شواهدی از کمپین‌های ساختگی نداریم (اگرچه امکان‌پذیر است). اما دیدیم که چگونه subredditهای مرتبط با OpenAI پس از انتشار GPT-5 علیه این شرکت موضع گرفتند. به جای موجی از تحسین طرفداران وفادار نسبت به مدل جدید، پست‌های خشم‌آلود بسیاری امتیاز گرفتند. مردم در reddit و X به شکایت از همه چیز پرداختند: از شخصیت GPT گرفته تا نحوه استفاده آن از اعتبارها بدون انجام وظایف.
یک روز پس از انتشار پرچالش، آلتمن در یک جلسه پرسش و پاسخ در ساب ردیتr/GPT شرکت کرد و در آن به مشکلات راه‌اندازی اعتراف کرد و قول تغییر داد. subreddit جی‌پی‌تی هرگز آن سطح عشق گذشته را بازیابی نکرده و کاربران هنوز به طور منظم در مورد میزان dislikeشان نسبت به تغییرات GPT-5 پست می‌گذارند. آیا آنها انسان هستند؟ یا همانطور که آلتمن به نظر اشاره می‌کند، به نوعی جعلی هستند؟
آلتمن نتیجه‌گیری می‌کند:
«نتیجه نهایی به گونه‌ای است که فضای هوش مصنوعی در توئیتر و رددیت به شکلی غیرواقعی و ساختگی به نظر می‌رسد، حال آن که همین یک دو سال پیش چنین حسی اصلاً وجود نداشت.»
اگر این درست باشد، تقصیر کیست؟ GPT باعث شده مدل‌ها در نوشتن آنقدر خوب شوند، که اکنون LLMها نه تنها برای شبکه‌های اجتماعی (که همیشه مشکل چت‌بات داشته‌اند)، بلکه برای مدارس، روزنامه‌نگاری و دادگاه‌ها به یک آفت تبدیل شده‌اند.
در حالی که نمی‌دانیم چند پست reddit توسط چت‌بات نوشته شده‌اند، یا حاصل حساب‌های تخیلی انسان‌هایی هستند که از LLMها استفاده می‌کنند، به احتمال زیاد تعداد قابل توجهی است. شرکت امنیت داده Imperva گزارش داد که بیش از نیمی از کل ترافیک اینترنت در سال ۲۰۲۴ غیرانسانی بوده که عمدتاً به دلیل LLMها است. چت‌بات گراک خود X می‌گوید:
«آمار دقیق عمومی نیست، اما برآوردهای ۲۰۲۴ حاکی از وجود صدها میلیون چت‌بات در X است.»
برخی بدبینان اظهار داشته‌اند که اظهار تاسف آلتمن اولین حرکت او برای بازاریابی پلتفرم شبکه اجتماعی شایعه‌شده OpenAI بوده است. در ماه آوریل، ورگ گزارش داد که چنین پروژه‌ای برای رقابت با X و فیسبوک در earliest stages قرار دارد. ممکن است این محصول وجود داشته باشد یا نه. ممکن است آلتمن برای القای این که شبکه‌های اجتماعی امروزه زیادی جعلی شده‌اند، انگیزه‌های دیگری داشته باشد یا نه.
اما جدا از انگیزه‌ها، اگر OpenAI قصد راه‌اندازی یک شبکه اجتماعی را دارد، احتمال این که یک منطقه عاری از بات باشد چقدر است؟ و به طور طنزآمیزی، اگر برعکس عمل کند و انسان‌ها را مسدود کند، احتمالاً نتایج متفاوت نخواهد بود.
نه تنها LLMها هنوز دچار توهم هستند، بلکه وقتی محققان دانشگاه آمستردام یک شبکه اجتماعی متشکل entirely از چت‌بات ساختند، دریافتند که بات‌ها نیز به زودی برای خود دسته‌ها و chambers اکو تشکیل می‌دهند.
