متابعة – أمل علوي
أعلن الرئيس التنفيذي لشركة OpenAI سام ألتمان في أ مشاركة على X ستقوم الشركة يوم الثلاثاء قريبًا بتخفيف بعض قيود السلامة في ChatGPT، مما يسمح للمستخدمين بجعل استجابات برنامج الدردشة الآلية أكثر ودية أو أكثر “شبيهة بالإنسان”، ولـ “البالغين الذين تم التحقق منهم” للمشاركة في محادثات مثيرة.
“لقد جعلنا ChatGPT مقيدًا جدًا للتأكد من أننا كنا حذرين فيما يتعلق بقضايا الصحة العقلية. نحن ندرك أن هذا جعله أقل فائدة/متعة للعديد من المستخدمين الذين ليس لديهم مشاكل في الصحة العقلية، ولكن نظرًا لخطورة المشكلة، أردنا تصحيح هذا الأمر،” قال ألتمان. “في شهر ديسمبر/كانون الأول، بينما نطرح نظام تحديد الأعمار بشكل كامل وكجزء من مبدأ “معاملة المستخدمين البالغين مثل البالغين”، سنسمح بالمزيد، مثل الشبقية للبالغين الذين تم التحقق منهم.”
يعد هذا الإعلان محورًا ملحوظًا في جهود OpenAI التي استمرت لعدة أشهر لمعالجة العلاقات المثيرة للقلق التي طورها بعض المستخدمين غير المستقرين عقليًا باستخدام ChatGPT. يبدو أن ألتمان يعلن انتصاره المبكر على هذه المشكلات، مدعيًا أن OpenAI “قادرة على التخفيف من مشكلات الصحة العقلية الخطيرة” المتعلقة بـ ChatGPT. ومع ذلك، لم تقدم الشركة سوى القليل من الأدلة على ذلك، وهي تمضي الآن قدمًا في خطط ChatGPT للمشاركة في محادثات جنسية مع المستخدمين.
ظهرت العديد من القصص المثيرة للقلق هذا الصيف حول ChatGPT، وتحديدًا نموذج GPT-4o، مما يشير إلى أن برنامج الدردشة الآلي الذي يعمل بالذكاء الاصطناعي يمكن أن يقود المستخدمين الضعفاء إلى جحر الأرانب الوهمي. في إحدى الحالات، بدا أن ChatGPT أقنع رجلاً بأنه عبقري في الرياضيات ويحتاج إلى إنقاذ العالم. وفي قضية أخرى، رفع والدا أحد المراهقين دعوى قضائية ضد OpenAI، زاعمين أن ChatGPT شجع أفكار ابنهما الانتحارية في الأسابيع التي سبقت وفاته.
رداً على ذلك، أصدرت OpenAI سلسلة من ميزات الأمان لمعالجة تملق الذكاء الاصطناعي: ميل روبوتات الدردشة المدعومة بالذكاء الاصطناعي إلى جذب المستخدمين من خلال الموافقة على كل ما يقولونه، حتى السلوكيات السلبية.
أطلقت OpenAI GPT-5 في أغسطس، وهو نموذج جديد للذكاء الاصطناعي يُظهر معدلات أقل من التملق ويتميز بجهاز توجيه يمكنه تحديد سلوك المستخدم المقلق. وبعد شهر، أطلقت OpenAI ميزات أمان للقاصرين، بما في ذلك نظام التنبؤ بالعمر وطريقة ل الآباء للتحكم في حساب ChatGPT الخاص بالمراهقين. أعلنت OpenAI يوم الثلاثاء عن تشكيل مجلس الخبراء من متخصصي الصحة العقلية لتقديم المشورة للشركة بشأن الرفاهية والذكاء الاصطناعي.
بعد بضعة أشهر فقط من ظهور هذه القصص المثيرة للقلق، يبدو أن OpenAI تعتقد أن مشاكل ChatGPT حول المستخدمين الضعفاء أصبحت تحت السيطرة. ليس من الواضح ما إذا كان المستخدمون ما زالوا يسقطون في جحور الأرانب الوهمية باستخدام GPT-5. وعلى الرغم من أن GPT-4o لم يعد هو الخيار الافتراضي في ChatGPT، إلا أن نموذج الذكاء الاصطناعي لا يزال متاحًا حتى اليوم ويستخدمه آلاف الأشخاص.
حدث تك كرانش
سان فرانسيسكو
|
27-29 أكتوبر 2025
لم يستجب OpenAI لطلب TechCrunch للتعليق.
يعد إدخال الإثارة الجنسية في ChatGPT منطقة غير مأهولة بالنسبة لـ OpenAI ويثير مخاوف أوسع حول كيفية تفاعل المستخدمين الضعفاء مع الميزات الجديدة. في حين يصر ألتمان على أن OpenAI لا تعمل على “تعظيم الاستخدام” أو تحسين التفاعل، فإن جعل ChatGPT أكثر إثارة يمكن أن يجذب المستخدمين بالتأكيد.
لقد كان السماح لروبوتات الدردشة بالمشاركة في لعب الأدوار الرومانسية أو المثيرة بمثابة استراتيجية مشاركة فعالة لمقدمي برامج الدردشة الآلية الآخرين، مثل Character.AI. وقد اكتسبت الشركة عشرات الملايين من المستخدمين، وكثير منهم يستخدمون برامج الدردشة الآلية الخاصة بها بمعدل مرتفع. قالت شركة Character.AI في عام 2023 أن المستخدمين أنفقوا ما متوسطه ساعتين في اليوم التحدث إلى برامج الدردشة الخاصة بها. تواجه الشركة أيضًا دعوى قضائية حول كيفية تعاملها مع المستخدمين الضعفاء.
تتعرض OpenAI لضغوط لتنمية قاعدة مستخدميها. في حين أن ChatGPT يستخدمه بالفعل 800 مليون مستخدم نشط أسبوعيًا، فإن OpenAI تتنافس مع Google وMeta لبناء منتجات استهلاكية مدعومة بالذكاء الاصطناعي على نطاق واسع. وقد جمعت الشركة أيضًا مليارات الدولارات من أجل إنشاء بنية تحتية تاريخية، وهو استثمار يتعين على OpenAI سداده في النهاية.
بينما هم الكبار من المؤكد أن لديهم علاقات رومانسية مع روبوتات الدردشة التي تعمل بالذكاء الاصطناعي، كما أنها تحظى بشعبية كبيرة لدى القاصرين. وجد تقرير جديد صادر عن مركز الديمقراطية والتكنولوجيا ذلك 19% من طلاب المدارس الثانوية إما أن تكون لديك علاقة رومانسية مع برنامج دردشة آلي يعمل بالذكاء الاصطناعي، أو تعرف صديقًا لديه علاقة رومانسية.
يقول ألتمان إن OpenAI ستسمح قريبًا بالإثارة الجنسية “للبالغين الذين تم التحقق منهم”. من غير الواضح ما إذا كانت الشركة ستعتمد على نظام التنبؤ بالعمر الخاص بها، أو أي نهج آخر، للحصول على ميزات ChatGPT المثيرة التي تحدد العمر. ومن غير الواضح أيضًا ما إذا كانت OpenAI ستوسع نطاق الإثارة الجنسية لتشمل أدوات إنشاء الصوت والصورة والفيديو الخاصة بالذكاء الاصطناعي.
يدعي ألتمان أن OpenAI تعمل أيضًا على جعل ChatGPT أكثر ودية وإثارة بسبب مبدأ الشركة “معاملة المستخدمين البالغين مثل البالغين”. على مدار العام الماضي، تحولت OpenAI نحو استراتيجية أكثر تساهلاً للإشراف على المحتوى لـ ChatGPT، مما يسمح لبرنامج الدردشة الآلي بأن يكون أكثر تساهلاً ويقدم رفضًا أقل. وفي فبراير، تعهدت شركة OpenAI بتمثيل المزيد من وجهات النظر السياسية في ChatGPT، وفي مارس، قامت الشركة بتحديث ChatGPT للسماح بالصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي لرموز الكراهية.
يبدو أن هذه السياسات هي محاولة لجعل استجابة ChatGPT أكثر شيوعًا لدى مجموعة واسعة من المستخدمين. ومع ذلك، قد يستفيد مستخدمو ChatGPT الضعفاء من الضمانات التي تحد مما يمكن أن يتعامل معه برنامج الدردشة الآلي. مع تسارع OpenAI نحو مليار مستخدم نشط أسبوعيًا، قد يتزايد التوتر بين النمو وحماية المستخدمين الضعفاء.
هذا المحتوي تم باستخدام أدوات الذكاء الإصطناعي
