يقوم Openai بطرح نظام توجيه السلامة ، عناصر التحكم الوالدية على ChatGpt

بدأ Openai في اختبار نظام توجيه السلامة الجديد في ChatGPT خلال عطلة نهاية الأسبوع ، وفي يوم الاثنين قدم عناصر تحكم الوالدين إلى chatbot – رسم ردود فعل مختلطة من المستخدمين.

تأتي ميزات السلامة استجابةً لعدة حوادث لبعض نماذج ChatGPT التي تقوم بالتحقق من التفكير الوهمي للمستخدمين بدلاً من إعادة توجيه المحادثات الضارة. يواجه Openai دعوى الموت غير المشروعة مرتبطة بواحد من هذه الحوادث ، بعد أن توفي صبي مراهق بالانتحار بعد أشهر من التفاعلات مع Chatgpt.

تم تصميم نظام التوجيه لاكتشاف المحادثات الحساسة عاطفياً وتبديل المقطوعات المتوسطة تلقائيًا إلى GPT-5-Thinking ، والذي تعتبره الشركة أفضل نموذج مجهز لأعمال السلامة عالية المخاطر. على وجه الخصوص ، تم تدريب نماذج GPT-5 مع ميزة سلامة جديدة تسميها Openai “إكمال آمن” ، “ مما يسمح لهم بالإجابة على الأسئلة الحساسة بطريقة آمنة ، بدلاً من مجرد رفض المشاركة.

إنه على النقيض من نماذج الدردشة السابقة للشركة ، والتي تم تصميمها لتكون مقبولة والإجابة على الأسئلة بسرعة. تعرضت GPT-4O للتدقيق الخاص بسبب طبيعتها المفرطة المفرطة ، والتي غذت كل من حوادث الأوهام الناجمة عن الذكاء الاصطناعي ورسم قاعدة كبيرة من المستخدمين المخلصين. عندما قام Openai بطرح GPT-5 باعتباره الافتراضي في أغسطس ، قام العديد من المستخدمين بالتراجع وطالبوا بالوصول إلى GPT-4O.

على الرغم من أن العديد من الخبراء والمستخدمين رحبوا بميزات السلامة ، فقد انتقد آخرون ما يرونه على أنه تطبيق حذر للغاية ، حيث يتهم بعض المستخدمين Openai بمعاملة البالغين مثل الأطفال بطريقة تحط من جودة الخدمة. اقترح Openai أن الحصول عليها بشكل صحيح سيستغرق وقتًا وأعطت نفسها فترة 120 يومًا من التكرار والتحسين.

أقر نيك تورلي ، نائب الرئيس ورئيس تطبيق ChatGPT ، ببعض “ردود الفعل القوية على ردود 4O” بسبب تنفيذ جهاز التوجيه مع تفسيرات.

“يحدث التوجيه على أساس لكل وسيلة ؛ يحدث التبديل من النموذج الافتراضي على أساس مؤقت ،” نشر تورلي على X. “سوف يخبرك Chatgpt أي النموذج نشط عند سؤاله. هذا جزء من جهد أوسع لتعزيز الضمانات والتعلم من استخدام العالم الحقيقي قبل بدء تشغيل أوسع.”

تلقى تنفيذ أدوات التحكم الوالدية في ChatGPT مستويات مماثلة من الثناء والازدراء، مع الإشادة ببعض إعطاء الوالدين وسيلة للحفاظ على علامات التبويب على استخدام أطفالهم من الذكاء الاصطناعى ، والبعض الآخر يخشى أن يفتح الباب أمام Openai معاملة البالغين مثل الأطفال.

تتيح عناصر التحكم الآباء تخصيص تجربة سن المراهقة من خلال تعيين ساعات هادئة ، وإيقاف تشغيل الوضع الصوتي والذاكرة ، وإزالة توليد الصور ، واختراق التدريب على النماذج. ستحصل حسابات Teen أيضًا على حماية إضافية للمحتوى-مثل انخفاض المحتوى الرسومي ومُثُل تجميل متطرفة-ونظام اكتشاف يتعرف على علامات محتملة على أن المراهق قد يفكر في إيذاء الذات.

“إذا اكتشفت أنظمتنا الضرر المحتمل ، فإن فريقًا صغيرًا من الأشخاص المدربين تدريباً خصيصًا يستعرض الموقف” ، وفقًا لـ Openai’s مدونة. “إذا كانت هناك علامات على الضيق الحاد ، فسنقوم بالاتصال بالأبرين عن طريق البريد الإلكتروني والرسالة النصية ودفع التنبيه على هواتفهم ، إلا إذا اختاروا”.

أقر Openai بأن النظام لن يكون مثاليًا وقد يرفع في بعض الأحيان الإنذارات عندما لا يكون هناك خطر حقيقي ، “لكننا نعتقد أنه من الأفضل التصرف وتنبيه أحد الوالدين حتى يتمكنوا من التدخل بدلاً من الصمت”. قالت شركة الذكاء الاصطناعى إنها تعمل أيضًا على طرق للوصول إلى خدمات إنفاذ القانون أو خدمات الطوارئ إذا اكتشفت تهديدًا وشيكًا للحياة ولا يمكن الوصول إلى أحد الوالدين.