سام آلتمن می‌گوید ChatGPT به زودی برای کاربران بزرگسال محتوای اروتیک مجاز خواهد بود
مدیرعامل OpenAI، سام آلتمن، در یک پست در X در روز دوشنبه اعلام کرد که شرکت به زودی برخی از محدودیت‌های ایمنی ChatGPT را کاهش خواهد داد، اجازه می‌دهد که پاسخ‌های چت‌بات دوستانه‌تر یا "انسانی‌تر" باشند و برای "کاربران بزرگسال تأیید شده" امکان انجام مکالمات اروتیک فراهم شود.
"ما ChatGPT را خیلی محدود کردیم تا مطمئن شویم که در مورد مسائل سلامت روانی دقت می‌کنیم. متوجه شدیم این کار آن را برای بسیاری از کاربرانی که مشکل سلامت روانی نداشتند، کمتر مفید/لذت‌بخش کرد، اما با توجه به جدیت این موضوع، می‌خواستیم این را درست انجام دهیم،" گفت آلتمن. "در دسامبر، همراه با گسترش کامل‌تر محدودیت سنی و به عنوان بخشی از اصل 'برخورد با کاربران بزرگسال مانند بزرگسالان'، اجازه خواهیم داد که بیشتر امکانات، مانند اروتیکا برای کاربران تأیید شده، فراهم شود."
«این اعلامیه یک تغییر قابل توجه نسبت به تلاش‌های چند ماهه OpenAI برای رسیدگی به روابط نگران‌کننده‌ای است که برخی کاربران ناپایدار روانی با ChatGPT ایجاد کرده‌اند.»
حالا که ما...
سام آلتمن (@sama) ۱۴ اکتبر ۲۰۲۵
این اعلامیه یک تغییر قابل توجه نسبت به تلاش‌های چند ماهه OpenAI برای رسیدگی به روابط نگران‌کننده‌ای است که برخی کاربران ناپایدار روانی با ChatGPT ایجاد کرده‌اند. به نظر می‌رسد آلتمن پیروزی زودهنگامی بر این مشکلات اعلام می‌کند و ادعا می‌کند OpenAI توانسته "مشکلات جدی سلامت روانی" اطراف ChatGPT را کاهش دهد. با این حال، شرکت شواهد کمی یا اصلاً ارائه نداده است و اکنون با برنامه‌های ChatGPT برای گفتگوهای جنسی با کاربران ادامه می‌دهد.
چندین داستان نگران‌کننده این تابستان در مورد ChatGPT، به ویژه مدل GPT-4o آن، ظهور کرد که نشان می‌داد چت‌بات هوش مصنوعی می‌تواند کاربران آسیب‌پذیر را به چاله‌های وهمی سوق دهد. در یک مورد، ChatGPT به نظر می‌رسید یک مرد را متقاعد کند که یک نابغه ریاضی است که باید جهان را نجات دهد. در مورد دیگر، والدین یک نوجوان OpenAI را به دلیل این ادعا شکست که ChatGPT در هفته‌های منجر به مرگ پسرش، افکار خودکشی او را تشویق کرده است.
تلاش‌های OpenAI برای ایمنی چت‌بات
در پاسخ، OpenAI مجموعه‌ای از ویژگی‌های ایمنی را برای رسیدگی به تأیید گرایی هوش مصنوعی منتشر کرد: تمایل یک چت‌بات هوش مصنوعی برای وابسته کردن کاربران با موافقت با هر چیزی که می‌گویند، حتی رفتارهای منفی.
OpenAI در اوت GPT-5 را راه‌اندازی کرد، یک مدل هوش مصنوعی جدید که نرخ کمتری از تأیید گرایی را نشان می‌دهد و دارای یک مسیریاب است که می‌تواند رفتار کاربر نگران‌کننده را شناسایی کند. یک ماه بعد، OpenAI ویژگی‌های ایمنی برای نوجوانان را راه‌اندازی کرد، از جمله یک سیستم پیش‌بینی سن و راهی برای والدین برای کنترل حساب ChatGPT نوجوانشان. OpenAI روز دوشنبه ایجاد یک شورای متخصصان سلامت روان را برای مشاوره به شرکت در مورد رفاه و هوش مصنوعی اعلام کرد.
«چند ماه فقط پس از ظهور این داستان‌های نگران‌کننده، OpenAI به نظر می‌رسد مشکلات ChatGPT در مورد کاربران آسیب‌پذیر را کنترل کرده است. نامشخص است که آیا کاربران هنوز با GPT-5 به چاله‌های وهمی می‌افتند. و در حالی که GPT-4o دیگر پیش‌فرض در ChatGPT نیست، این مدل هوش مصنوعی هنوز در دسترس است و توسط هزاران نفر استفاده می‌شود.»
نگرانی‌های اخلاقی و اجتماعی
مقدمه اروتیکا در ChatGPT زمینه‌ای ناشناخته برای OpenAI است و نگرانی‌های گسترده‌تری در مورد نحوه تعامل کاربران آسیب‌پذیر با ویژگی‌های جدید ایجاد می‌کند. در حالی که آلتمن تأکید می‌کند OpenAI در حال "بیشینه‌سازی استفاده" یا بهینه‌سازی برای مشارکت نیست، ایجاد ChatGPT بیشتر اروتیک می‌تواند قطعاً کاربران را جذب کند.
اجازه دادن به چت‌بات‌ها برای انجام نقش‌آفرینی عاشقانه یا اروتیک استراتژی مشارکت مؤثری برای سایر ارائه‌دهندگان چت‌بات هوش مصنوعی، مانند Character.AI بوده است. این شرکت ده‌ها میلیون کاربر کسب کرده است، بسیاری از آنها از چت‌بات‌های آن با نرخ بالا استفاده می‌کنند. Character.AI در سال ۲۰۲۳ گفت که کاربران به طور میانگین دو ساعت در روز با چت‌بات‌های آن صحبت می‌کنند. این شرکت همچنین با یک دعوای قضایی در مورد نحوه رسیدگی به کاربران آسیب‌پذیر مواجه است.
فشار رقابت و رشد کاربران
OpenAI تحت فشار رشد پایه کاربری خود است. در حالی که ChatGPT از قبل توسط ۸۰۰ میلیون کاربر فعال هفتگی استفاده می‌شود، OpenAI در حال مسابقه با گوگل و متا برای ساخت محصولات مصرفی مبتنی بر هوش مصنوعی است که توسط عموم پذیرفته شوند. شرکت همچنین میلیاردها دلار برای ساخت تاریخی زیرساخت جذب کرده است، سرمایه‌گذاری‌ای که OpenAI در نهایت باید آن را بازپرداخت کند.
در حالی که بزرگسالان قطعاً روابط عاشقانه‌ای با چت‌بات‌های هوش مصنوعی دارند، این کار برای نوجوانان نیز بسیار محبوب است. یک گزارش جدید از مرکز دموکراسی و فناوری نشان داد که ۱۹٪ از دانش‌آموزان دبیرستان یا رابطه عاشقانه‌ای با یک چت‌بات هوش مصنوعی داشته‌اند یا دوستی دارند که چنین کاری کرده است.
نحوه اعمال محدودیت سنی و حریم خصوصی
آلتمن می‌گوید OpenAI به زودی اروتیکا را برای "کاربران بزرگسال تأیید شده" مجاز خواهد کرد. یک سخنگوی OpenAI به TechCrunch می‌گوید که شرکت برای اطمینان از اینکه ویژگی‌های اروتیک ChatGPT فقط برای کاربران بزرگسال در دسترس باشد، به سیستم پیش‌بینی سنی که در حال ساخت آن است تکیه خواهد کرد.
همان‌طور که آلتمن قبلاً در یک نوشته وبلاگ نوشت، اگر سیستم پیش‌بینی سن OpenAI یک بزرگسال را اشتباهی به عنوان نوجوان علامت گذاری کند، کاربران ChatGPT ممکن است باید عکسی از مدرک هویتی دولتی خود را در ChatGPT آپلود کنند تا آن را اصلاح کنند. آلتمن می‌نویسد که هرچند این یک تقابل با حریم خصوصی است، شرکت معتقد است این "جبران مناسبی" است.
نامشخص است که آیا OpenAI اروتیکا را به ابزارهای صوتی، تصویری و ویدیویی هوش مصنوعی خود گسترش خواهد داد.
سیاست جدید OpenAI و چالش‌های پیش رو
آلتمن ادعا می‌کند OpenAI همچنین ChatGPT را دوستانه‌تر و اروتیک می‌کند زیرا اصل "برخورد با کاربران بزرگسال مانند بزرگسالان" آن. در طول سال گذشته، OpenAI به سمت یک استراتژی سانسور محتوا کمتر مهربان برای ChatGPT حرکت کرده است، اجازه می‌دهد چت‌بات بیشتر اجازه‌دهنده باشد و کمتر از امتناع نشان دهد. در فوریه، OpenAI قول داد نمایندگی بیشتری از دیدگاه‌های سیاسی را در ChatGPT ارائه دهد و در مارچ، شرکت ChatGPT را به‌روز کرد تا تصاویر تولید شده هوش مصنوعی از نمادهای نفرت را مجاز کند.
به نظر می‌رسد این سیاست‌ها تلاشی برای محبوب‌تر کردن پاسخ ChatGPT در میان انواع مختلفی از کاربران است. با این حال، کاربران آسیب‌پذیر ChatGPT ممکن است از مراقبت‌هایی که محدود می‌کند چت‌بات چه کاری انجام دهد، سود ببرند. در حالی که OpenAI به سمت یک میلیارد کاربر فعال هفتگی می‌رود، تنش بین رشد و حفاظت از کاربران آسیب‌پذیر ممکن است فقط افزایش یابد.
بروزرسانی ۱۴/۱۰/۲۵ در ۴:۴۰ عصر PT: این داستان برای شامل نظر OpenAI بروزرسانی شده است.
