قامت شركة Microsoft ببناء سوق مزيف لاختبار عملاء الذكاء الاصطناعي، وقد فشلوا بطرق مفاجئة

أصدر باحثون في شركة مايكروسوفت، يوم الأربعاء، بيئة محاكاة جديدة مصممة لاختبار عملاء الذكاء الاصطناعي، إلى جانب بحث جديد يوضح أن نماذج العملاء الحالية قد تكون عرضة للتلاعب. يثير البحث، الذي أُجري بالتعاون مع جامعة ولاية أريزونا، تساؤلات جديدة حول مدى جودة أداء وكلاء الذكاء الاصطناعي عند العمل دون إشراف – ومدى السرعة التي يمكن بها لشركات الذكاء الاصطناعي الوفاء بوعودها بمستقبل وكيل.

بيئة المحاكاة، يطلق عليها اسم “السوق السحري” بواسطة Microsoft، تم تصميمه كمنصة اصطناعية لتجربة سلوك وكيل الذكاء الاصطناعي. قد تتضمن التجربة النموذجية محاولة وكيل عميل طلب العشاء وفقًا لتعليمات المستخدم، بينما يتنافس الوكلاء الذين يمثلون مطاعم مختلفة للفوز بالطلب.

تضمنت التجارب الأولية للفريق 100 وكيل منفصل من جانب العميل يتفاعلون مع 300 وكيل من جانب الأعمال. نظرًا لأن الكود المصدري للسوق مفتوح المصدر، فيجب أن يكون من السهل على المجموعات الأخرى اعتماد الكود لإجراء تجارب جديدة أو إعادة إنتاج النتائج.

يقول إيسي كامار، المدير الإداري لمختبر AI Frontiers Lab التابع لأبحاث Microsoft، إن هذا النوع من الأبحاث سيكون حاسمًا لفهم قدرات عملاء الذكاء الاصطناعي. وقال قمر: “هناك بالفعل سؤال حول كيف سيتغير العالم من خلال تعاون هؤلاء الوكلاء والتحدث مع بعضهم البعض والتفاوض”. “نريد أن نفهم هذه الأشياء بعمق.”

بحث البحث الأولي في مزيج من النماذج الرائدة، بما في ذلك GPT-4o، وGPT-5، وGemini-2.5-Flash، ووجد بعض نقاط الضعف المفاجئة. وعلى وجه الخصوص، وجد الباحثون العديد من التقنيات التي يمكن للشركات استخدامها للتلاعب بوكلاء العملاء لشراء منتجاتها. لاحظ الباحثون انخفاضًا خاصًا في الكفاءة حيث تم منح وكيل العميل المزيد من الخيارات للاختيار من بينها، مما أدى إلى إشغال مساحة انتباه الوكيل.

يقول كامار: “نريد أن يساعدنا هؤلاء الوكلاء في معالجة الكثير من الخيارات”. “ونحن نرى أن النماذج الحالية أصبحت مثقلة بالفعل بسبب وجود الكثير من الخيارات.”

واجه العملاء أيضًا مشكلة عندما طُلب منهم التعاون لتحقيق هدف مشترك، ويبدو أنهم غير متأكدين من الوكيل الذي يجب أن يلعب أي دور في التعاون. تحسن الأداء عندما أعطيت النماذج تعليمات أكثر وضوحًا حول كيفية التعاون، لكن الباحثين ما زالوا يرون أن القدرات الكامنة في النماذج بحاجة إلى التحسين.

قال كامار: “يمكننا إرشاد النماذج، كما يمكننا أن نخبرهم بها، خطوة بخطوة”. “ولكن إذا كنا نختبر قدراتهم التعاونية بطبيعتها، فإنني أتوقع أن تتمتع هذه النماذج بهذه القدرات بشكل افتراضي.”