متابعة – أمل علوي
في ظل الانتشار المتسارع للذكاء الاصطناعي، برزت واحدة من أخطر التحديات الأمنية التي تواجه المنظمات الحديثة: الذكاء الاصطناعي الخفي (Shadow AI). يشير هذا المصطلح إلى شبكة متنامية من أدوات وتكاملات الذكاء الاصطناعي التي يتم ربطها بالأنظمة المؤسسية من قبل الموظفين، غالباً دون إذن أو إشراف من فرق أمن تكنولوجيا المعلومات. والنتيجة هي وصول هذه الأدوات غير المراقبة إلى البيانات الحساسة للشركة، مما يشكل ثغرة أمنية كبرى.
الانتشار الأسرع من القدرة على التحكم
وفقاً للدكتور تال شابيرا، الشريك المؤسس والمدير التقني لشركة “ريكو” المتخصصة في أمن تطبيقات SaaS وحوكمة الذكاء الاصطناعي، فإن هذا الانتشار غير المرئي يمكن أن يصبح أحد أكبر التهديدات التي تواجه المنظمات اليوم.
ويوضح شابيرا: “انتقلنا من مرحلة ‘الذكاء الاصطناعي قادم’ إلى ‘الذكاء الاصطناعي في كل مكان’ خلال حوالي 18 شهراً فقط. المشكلة أن أطر الحوكمة ببساطة لم تتمكن من اللحاق بهذه السرعة”.
الخطر غير المرئي داخل الأنظمة
صُممت معظم أنظمة الأمن cooperateية لعالم قديم حيث كان كل شيء خلف جدران الحماية وحدود الشبكة. لكن الذكاء الاصطناعي الخفي يكسر هذا النموذج لأنه يعمل من الداخل، مختبئاً ضمن أدوات الشركة نفسها.
وتعمل العديد من أدوات الذكاء الاصطناعي الحديثة من خلال الاتصال المباشر بمنصات SaaS شائعة مثل Salesforce وSlack وGoogle Workspace. ورغم أن هذا ليس خطراً بحد ذاته، إلا أن الذكاء الاصطناعي غالباً ما يقوم بذلك عبر أذونات وملحقات تبقى نشطة даже بعد التثبيت. هذه الروابط “الهادئة” يمكنها الاستمرار في منح أنظمة الذكاء الاصطناعي acceso إلى بيانات الشركة، حتى بعد أن يتوقف الشخص الذي قام بإعدادها عن استخدامها أو يغادر المنظمة.
عندما يخرج الذكاء الاصطناعي عن السيطرة: أمثلة واقعية
الأضرار الناجمة عن الذكاء الاصطناعي الخفي أصبحت واضحة بالفعل في حوادث واقعية. حيث عملت “ريكو” مؤخراً مع شركة مالية من قائمة Fortune 100 كانت تعتقد أن أنظمتها آمنة ومتوافقة. وفي غضون أيام من نشر نظام المراقبة من ريكو، اكتشفت الشركة أكثر من 1000 تكامل غير مصرح به من أطراف ثالثة في بيئتي Salesforce وMicrosoft 365 – أكثر من نصفها يعمل بالذكاء الاصطناعي.
كان أحد هذه التكاملات أداة نسخ موصولة بـ Zoom، كانت تسجل كل مكالمة عملاء، بما في ذلك مناقشات الأسعار والتعليقات السرية. كما لاحظ شابيرا: “لقد كانوا يدربون عن غير قصد نموذجاً تابعاً لطرف ثالث على بياناتهم الأكثر حساسية. لم يكن هناك عقد، ولا فهم لكيفية تخزين هذه البيانات أو استخدامها”.
وفي حالة أخرى، ربط موظف ChatGPT مباشرة بـ Salesforce، مما سمح للذكاء الاصطناعي بتوليد مئات التقارير الداخلية في ساعات قليلة. قد يبدو هذا فعالاً، لكنه كشف أيضاً معلومات العملاء وتوقعات المبيعات لنظام ذكاء اصطناعي خارجي.
كيف تكشف “ريكو” ما لا يمكن اكتشافه
بُنيت منصة “ريكو” لمنح الشركات رؤية كاملة لأدوات الذكاء الاصطناعي المتصلة بأنظمتها والبيانات التي يمكن لتلك الأدوات الوصول إليها. حيث تفحص المنصة باستمرار بيئات SaaS بحثاً عن منح OAuth وتطبيقات الطرف الثالث وامتدادات المتصفح. وبمجرد التعرف عليها، تظهر “ريكو” المستخدمين الذين قاموا بتثبيتها، والأذونات التي يحملونها، وما إذا كان السلوك يبدو مريباً.
وإذا ظهر أن الاتصال محفوف بالمخاطر، يمكن للنظام تنبيه المسؤولين أو سحب acceso تلقائياً. ويؤكد شابيرا: “السرعة مهمة لأن أدوات الذكاء الاصطناعي يمكنها استخراج كميات هائلة من البيانات في ساعات، وليس أيام”.
صحوة أمنية أوسع
يعكس عمل “ريكو” اتجاهاً أكبر في الأمن المؤسسي: التحول من منع الذكاء الاصطناعي إلى حوكمته. وفقاً لتقرير حديث لـ Cisco حول جاهزية الذكاء الاصطناعي، اعترف 62% من المنظمات في 2025 بأن لديهم رؤية محدودة لكيفية استخدام الموظفين لأدوات الذكاء الاصطناعي في العمل، ونحو نصفهم تعرضوا لحدث واحد على الأقل متعلق بالذكاء الاصطناعي.
تسخير الذكاء الاصطناعي بأمان
يعتقد شابيرا أن المؤسسات تدخل ما يسميه مرحلة بنية الذكاء الاصطناعي التحتية – وهي الفترة التي ستتضمن فيها كل أداة أعمال شكلاً من أشكال الذكاء الاصطناعي، سواء كان مرئياً أم لا. وهذا يجعل المراقبة المستمرة والوصول بأقل صلاحية والأذونات قصيرة الأجل أموراً أساسية.
ويختتم قائلاً: “الشركات التي ستنجح ليست تلك التي تمنع الذكاء الاصطناعي، بل تلك التي تتبناه بأمان، مع وجود حواجز تحمي كل من الابتكار والثقة”.
هذا المحتوى تم باستخدام أدوات الذكاء الاصطناعي.
