متابعة – أمل علوي
أعلنت الحكومة البريطانية عن خطط جديدة تهدف إلى تعزيز سلامة الأطفال من خلال السماح للشركات التكنولوجية وجمعيات حماية الأطفال بإجراء اختبارات استباقية على أدوات الذكاء الاصطناعي للتأكد من عدم قدرتها على إنتاج مواد استغلال الأطفال. يأتي هذا التوجه كجزء من تعديل قانون الجريمة والشرطة الذي تم الكشف عنه يوم الأربعاء.
تشمل هذه الإجراءات تعيين “مختبرين معتمدين” لتقييم النماذج قبل طرحها في السوق، بهدف الكشف عن قدرتها على إنتاج مواد جنسية غير قانونية للأطفال (CSAM). وأكدت وزيرة التكنولوجيا ليز كيندال أن هذه التدابير ستساعد في “ضمان أن تكون أنظمة الذكاء الاصطناعي آمنة منذ البداية”، على الرغم من أن بعض الناشطين يرون أنه لا يزال هناك المزيد من العمل الذي يجب القيام به.
وفي الوقت نفسه، أفادت مؤسسة “Internet Watch Foundation” (IWF) بأن عدد التقارير المتعلقة بـ CSAM المرتبطة بالذكاء الاصطناعي قد تضاعف في العام الماضي. وفي تقريرها، ذكرت المؤسسة أنها قامت بإزالة 426 قطعة من المحتوى المبلغ عنه بين يناير وأكتوبر 2025، ارتفاعًا من 199 خلال نفس الفترة في 2024.
ردود الفعل حول الإجراءات الجديدة
رحبت كيري سميث، الرئيسة التنفيذية للمؤسسة، بتلك المقترحات، قائلةً إنها ستعزز جهود المؤسسة الطويلة الأمد في مكافحة CSAM عبر الإنترنت. وأضافت: “قد تُمكن أدوات الذكاء الاصطناعي المجرمين من إنتاج كميات غير محدودة من محتوى استغلال الأطفال المتطور ببضع نقرات”.
من جهة أخرى، أعربت راني غوفندير، مديرة السياسة في NSPCC، عن أهمية توفير المزيد من المساءلة والرقابة على النماذج التي تصممها الشركات. وأكدت على ضرورة أن تكون هذه التدابير إلزامية لضمان أن حماية الأطفال ضد استغلالهم الجنسي جزء أساسي من تصميم المنتجات.
ضمان سلامة الأطفال
تسعى الحكومة أيضًا إلى التأكد من أن نماذج الذكاء الاصطناعي تمتلك تدابير كافية لحماية الأطفال من المواد الإباحية القاسية والصور الحميمية غير المتفق عليها. وقد حذر خبراء حماية الأطفال من أن أدوات الذكاء الاصطناعي، التي تم تطويرها جزئيًا باستخدام كميات هائلة من المحتوى المتنوع عبر الإنترنت، تُستخدم لإنشاء صور استغلالية واقعية للغاية.
كما أشارت بعض المؤسسات، مثل IWF وThorn، إلى أن هذه الأدوات قد تعرض الجهود المبذولة للرقابة على هذا المحتوى للخطر، نظرًا لصعوبة تحديد ما إذا كان المحتوى حقيقيًا أم مُنتجًا بواسطة الذكاء الاصطناعي.
في وقت سابق من هذا العام، أعلنت وزارة الداخلية البريطانية أن المملكة المتحدة ستكون أول دولة في العالم تجعل من غير القانوني امتلاك أو إنشاء أو توزيع أدوات الذكاء الاصطناعي المصممة لإنشاء محتوى استغلال الأطفال، مع فرض عقوبة تصل إلى خمس سنوات في السجن.
وفي تعليقها، قالت كيندال إنه “من خلال تمكين المنظمات الموثوقة من مراجعة نماذج الذكاء الاصطناعي، نضمن أن تكون سلامة الأطفال مصممة ضمن أنظمة الذكاء الاصطناعي، وليس مجرد إضافة بعد التفكير”.
هذا المحتوى تم باستخدام أدوات الذكاء الاصطناعي.
