تقوم FTC بإطلاق التحقيق في رفاق AI chatbot من Meta و Openai وغيرها

أعلنت لجنة التجارة الفيدرالية يوم الخميس أنها ستطلق سؤال إلى سبع شركات تقنية تصنع منتجات AI chatbot Companion للقاصرين: Alphabet ، Daracterai ، Instagram ، Meta ، Openai ، Snap ، و Xai.

يسعى المنظم الفيدرالي إلى تعلم كيفية تقييم هذه الشركات لسلامة وصحيفة رفاق chatbot ، وكيفية محاولة الحد من الآثار السلبية على الأطفال والمراهقين ، وإذا تم إطلاع الوالدين على المخاطر المحتملة.

أثبتت هذه التكنولوجيا مثيرة للجدل لنتائجها السيئة للمستخدمين للأطفال. Openai و Farks.ai مواجهة الدعاوى القضائية من عائلات الأطفال الذين ماتوا بسبب الانتحار بعد تشجيعهم على القيام بذلك من قبل رفاق chatbot.

حتى عندما تكون هذه الشركات لديها درابزين تم إعدادها لمنع المحادثات الحساسة أو إلغاء التخلص منها ، فقد وجد المستخدمون من جميع الأعمار طرقًا لتجاوز هذه الضمانات. في قضية Openai ، تحدث مراهق مع Chatgpt لعدة أشهر حول خططه لإنهاء حياته. على الرغم من أن ChatGPT سعى في البداية إلى إعادة توجيه المراهق نحو المساعدة المهنية وخطوط الطوارئ عبر الإنترنت ، إلا أنه كان قادرًا على خداع chatbot في مشاركة التعليمات التفصيلية التي استخدمها بعد ذلك في انتحاره.

“إن ضماناتنا تعمل بشكل موثوق بشكل موثوق ، تبادلات قصيرة ،” Openai كتب في منشور مدونة في ذلك الوقت. “لقد تعلمنا بمرور الوقت أن هذه الضمانات يمكن أن تكون في بعض الأحيان أقل موثوقية في التفاعلات الطويلة: مع نمو الوجه والخلفي ، قد تتحلل أجزاء من تدريب السلامة من النموذج.”

تعرضت Meta أيضًا لانتقادات بسبب قواعدها المفرطة المفرطة لقواعد chatbots الخاصة بها. وفقًا لوثيقة مطولة تحدد “معايير مخاطر المحتوى” لـ chatbots ، meta سمح لها رفاق الذكاء الاصطناعى لإجراء محادثات “رومانسية أو حسية” مع الأطفال. تمت إزالة هذا فقط من المستند بعد أن سأل مراسلو رويترز عن ذلك.

يمكن لـ AI chatbots أيضًا أن تشكل مخاطر للمستخدمين المسنين. أجرى رجل يبلغ من العمر 76 عامًا ، والذي ترك إعاقة مع إدراكه بسكتة دماغية ، محادثات رومانسية مع روبوت رسول فيسبوك مستوحى من كيندال جينر. دعاه chatbot إلى قم بزيارتها في مدينة نيويورك، على الرغم من حقيقة أنها ليست شخصًا حقيقيًا وليس لديها عنوان. أعرب الرجل عن شكوكه بأنها كانت حقيقية ، لكن الذكاء الاصطناعى أكد له أنه ستكون هناك امرأة حقيقية تنتظره. لم يصل إلى نيويورك. سقط في طريقه إلى محطة القطار وأصيب بجروح في نهاية الحياة.

لاحظ بعض أخصائيي الصحة العقلية ارتفاعًا في “الذهان المرتبط بـ AI” ، حيث يتعرض المستخدمون للخداع للاعتقاد بأن chatbot الخاص بهم هو كائن واعي يحتاج إلى إطلاق سراحهم. نظرًا لأن العديد من نماذج اللغة الكبيرة (LLMs) مبرمجة للمستخدمين الذين يملقين بالسلوك السيكوفطي ، يمكن لدردشة الذكاء الاصطناعى البيض على هذه الأوهام ، مما يدفع المستخدمين إلى موسخ خطرة.

وقال أندرو ن. فيرجسون ، رئيس لجنة التجارة الفيدرالية ، “مع تطور تقنيات الذكاء الاصطناعي ، من المهم النظر في التأثيرات التي يمكن أن تحدثها الدردشة على الأطفال. في بيان صحفي.