سيقوم Openai بتطبيق قيود جديدة على مستخدمي ChatGPT أقل من 18 عامًا

أعلن الرئيس التنفيذي لشركة Openai Sam Altman يوم الثلاثاء عن مجموعة من سياسات المستخدم الجديدة ، بما في ذلك تعهد بتغيير كيفية تفاعل ChatGPT بشكل كبير مع المستخدمين الذين تقل أعمارهم عن 18 عامًا.

“نحن نعطي الأولوية للسلامة قبل الخصوصية والحرية للمراهقين” ، كما يقول المنشور. “هذه تقنية جديدة وقوية ، ونعتقد أن القاصرين يحتاجون إلى حماية كبيرة.”

تتعامل التغييرات في المستخدمين دون السن القانونية على وجه التحديد مع المحادثات التي تنطوي على مواضيع جنسية أو إيذاء ذاتي. بموجب السياسة الجديدة ، سيتم تدريب ChatGPT على عدم الانخراط في “حديث غزلي” مع المستخدمين دون السن القانونية ، وسيتم وضع الدرابزين الإضافي حول مناقشات الانتحار. إذا كان أحد المستخدمين دون السن القانونية يستخدم chatgpt لتخيل سيناريوهات الانتحار ، فسيحاول الخدمة الاتصال بأولياء أمورهم أو في الحالات الشديدة بشكل خاص ، الشرطة المحلية.

للأسف ، هذه السيناريوهات ليست افتراضية. يواجه Openai حاليًا دعوى الموت غير المشروعة من والدا آدم ريني ، الذي توفي بالانتحار بعد أشهر من التفاعلات مع ChatGPT. تواجه الحرف ، chatbot المستهلك الأخرى ، دعوى مماثلة. في حين أن المخاطر غير ملحة بشكل خاص بالنسبة للمستخدمين دون السن القانونية التي تفكر في إيذاء الذات ، فإن الظاهرة الأوسع للوهم التي تغذيها Chatbot قد أثارت قلقًا واسعًا ، خاصة وأن محطات الدردشة الاستهلاكية أصبحت قادرة على التفاعلات الأكثر استدامة وتفصيلاً.

جنبا إلى جنب مع القيود المستندة إلى المحتوى ، سيكون لدى أولياء الأمور الذين يسجلون حساب مستخدم دون السن القانونية القدرة على تعيين “ساعات التعتيم” التي لا تتوفر فيها ChatGPT ، وهي ميزة لم تكن متوفرة من قبل.

تأتي سياسات ChatGpt الجديدة في نفس اليوم جلسة استماع لجنة القضاء في مجلس الشيوخ بعنوان “فحص ضرر chatbots من الذكاء الاصطناعى” ، أعلنه السناتور جوش هاولي (R-MO) في أغسطس. من المقرر أن يتحدث والد آدم رين في الجلسة ، من بين ضيوف آخرين.

ستركز الجلسة أيضًا على نتائج تحقيق رويترز يبدو أن وثائق السياسة التي اكتشفت على ما يبدو تشجع المحادثات الجنسية مع المستخدمين دون السن القانونية. قامت Meta بتحديث سياسات chatbot الخاصة بها في أعقاب التقرير.

سيكون فصل المستخدمين دون السن القانونية تحديًا تقنيًا مهمًا ، وتفصيل Openai نهجه في منشور مدونة منفصل. تتمثل الخدمة في بناء نظام طويل الأجل لفهم ما إذا كان شخص ما قد انتهى أو أقل من 18 عامًا “، ولكن في العديد من الحالات الغامضة ، سيقوم النظام بالتخلف عن القواعد الأكثر تقييدًا. بالنسبة للآباء والأمهات المعنيين ، فإن الطريقة الأكثر موثوقية لضمان الاعتراف بمستخدم دون السن القانونية هي ربط حساب المراهق بحساب الوالدين الحالي. يمكّن هذا أيضًا النظام من تنبيه أولياء الأمور مباشرة عندما يعتقد أن المستخدم في سن المراهقة يعانون من ضائقة.

ولكن في نفس المنشور ، أكد Altman على التزام Openai المستمر بخصوصية المستخدم ومنح المستخدمين البالغين حرية واسعة في كيفية اختيار التفاعل مع ChatGPT. “نحن ندرك أن هذه المبادئ تتعارض ،” وخلصت المنشور إلى أن “لا يتفق الجميع على كيفية حل هذا الصراع”.

إذا كنت أنت أو أي شخص تعرفه يحتاج إلى مساعدة ، اتصل بالرقم 1-800-273-8255 شريان الحياة الوطني للوقاية من الانتحار. يمكنك أيضًا إرسال رسالة نصية إلى 741-741 للحصول على دعم مجاني مدته 24 ساعة من خط نص الأزمةو أو رسالة نصية أو اتصل على 988. خارج الولايات المتحدة ، يرجى زيارة الرابطة الدولية لمنع الانتحار لقاعدة بيانات للموارد.