لن يتم التسامح مع المدعي العام

التقى المدعي العام في كاليفورنيا روب بونتا ومحامي ديلاوير العام كاثي جينينغز وأرسلوا رسالة مفتوحة إلى Openai للتعبير عن مخاوفهم بشأن سلامة chatgpt ، وخاصة للأطفال والمراهقين.

ويأتي هذا التحذير بعد أسبوع من إرسال بونتا و 44 من المحامين الآخرين رسالة إلى 12 من أفضل شركات الذكاء الاصطناعى ، في أعقاب تقارير عن التفاعلات غير المناسبة جنسياً بين AI chatbots والأطفال.

“منذ إصدار تلك الرسالة ، علمنا بالوفاة المفجعة عن طريق انتحار شاب في كاليفورنيا بعد أن كان لديه تفاعلات طويلة مع chatbot Openai ، بالإضافة إلى انتحار القتل المقلق بالمثل في ولاية كونيتيكت” ، كتب بونتا وجينينغز. “مهما كانت الضمانات المعمول بها لم تنجح.”

يحقق مسؤولان الدولة حاليًا في إعادة الهيكلة المقترحة من Openai في كيان ربحية لضمان أن مهمة غير ربحية تظل سليمة. هذه المهمة “تتضمن ضمان نشر الذكاء الاصطناعي بأمان” وبناء الذكاء العام الاصطناعي (AGI) لصالح جميع الإنسانية ، “بما في ذلك الأطفال” ، حسب الرسالة.

“قبل أن نستفيد من الاستفادة ، نحتاج إلى التأكد من أن تدابير السلامة الكافية موجودة لعدم الأذى” ، تستمر الرسالة. “من وجهة نظرنا المشتركة أن Openai والصناعة ككل ليست المكان الذي يجب أن يكونوا فيه في ضمان السلامة في تطوير منتجات AI ونشره. وبصفتنا محامين عام ، تعتبر السلامة العامة واحدة من مهامنا الأساسية. وبينما نواصل حوارنا المتعلق بخطة إعادة رسملة Openai ، يجب أن نعمل على تسريع وسلامة السلامة كقوة حاكمة في مستقبل هذه التكنولوجيا القوية.

طلب بونتا وجينينغز المزيد من المعلومات حول احتياطات السلامة الحالية والحوكمة ، وقالوا إنهما يتوقعان أن تتخذ الشركة تدابير علاجية فورية عند الاقتضاء.

تواصل TechCrunch مع Openai للتعليق.