AI بالعربي – متابعات
حذر المركز الوطني للأمن السيبراني في بريطانيا “NCSC” من تنامي استخدام “الذكاء الاصطناعي الخفي” داخل الشركات. ويشير المصطلح إلى استعانة الموظفين بأدوات ذكاء اصطناعي لم تعتمدها جهات عملهم رسميًا. ويرى المركز أن هذا الاستخدام قد يعرض بيانات المؤسسات والعملاء لمخاطر أمنية يصعب اكتشافها والسيطرة عليها.
ويأتي التحذير مع تسارع اعتماد العاملين على أدوات الذكاء الاصطناعي في أداء المهام اليومية. وفي بعض الحالات، يتجاوز انتشار هذه الأدوات قدرة المؤسسات على تقييمها واعتماد حلول رسمية وآمنة.
“الذكاء الاصطناعي الخفي” يتوسع داخل بيئات العمل
يطلق مصطلح “الذكاء الاصطناعي الخفي” أو “Shadow AI” على استخدام الموظفين أدوات وخدمات ذكاء اصطناعي خارج الأنظمة والسياسات الرسمية للمؤسسة.
ويرتبط المفهوم بما يعرف باسم “تقنية المعلومات الخفية”. ويشير هذا المصطلح إلى استخدام الموظفين خدمات أو تقنيات دون موافقة إدارات تقنية المعلومات أو فرق الأمن السيبراني.
ويحذر المركز الوطني للأمن السيبراني في بريطانيا من أن هذه الممارسات تقلل قدرة الشركات على معرفة كيفية استخدام بياناتها، والأماكن التي تنتقل إليها، والخدمات التي تتعامل معها.
71% من الموظفين استخدموا أدوات ذكاء اصطناعي غير معتمدة
أشار المركز إلى أبحاث تظهر أن نحو 71% من الموظفين في بريطانيا استخدموا أدوات ذكاء اصطناعي غير معتمدة من جهات عملهم.
ويعكس هذا الرقم سرعة انتشار تقنيات الذكاء الاصطناعي بين الموظفين. كما يكشف عن فجوة بين احتياجات العاملين وقدرة المؤسسات على تقييم الأدوات الجديدة واعتماد بدائل رسمية وآمنة.
وقد يلجأ الموظفون إلى هذه الأدوات لإنجاز مهام العمل دون المرور بالإجراءات الداخلية المعتادة. إلا أن استخدام خدمات غير مصرح بها قد يفتح الباب أمام مخاطر تتعلق بحماية المعلومات.
بيانات الشركات والعملاء تواجه مخاطر التسرب
يشكل إدخال المعلومات الحساسة إلى أدوات ذكاء اصطناعي غير معتمدة أحد أبرز مصادر الخطر. وقد تشمل هذه المعلومات بيانات الشركات أو العملاء أو تفاصيل مرتبطة بعمليات المؤسسة.
وحذر المركز من أن هذه الممارسات قد تزيد احتمالات تسرب البيانات. كما قد تؤدي إلى فقدان الملكية الفكرية أو مخالفة المتطلبات التنظيمية التي تخضع لها المؤسسات.
وتزداد المخاطر عندما لا تعرف فرق الأمن السيبراني الأدوات التي يستخدمها الموظفون أو طبيعة البيانات التي يشاركونها معها.
وكلاء الذكاء الاصطناعي يضيفون مخاطر أمنية جديدة
يمتد التحذير أيضًا إلى وكلاء الذكاء الاصطناعي، الذين يستطيعون الوصول إلى بيانات وخدمات مختلفة وتنفيذ مهام نيابة عن المستخدم.
وأوضح المركز أن استغلال ثغرة أمنية في أحد وكلاء الذكاء الاصطناعي قد يمنح المهاجم إمكانية الوصول إلى الموارد نفسها التي يستطيع الوكيل استخدامها.
وتشمل المخاطر البيانات والخدمات والصلاحيات المتاحة للوكيل داخل بيئة العمل. لذلك يرتبط مستوى الخطر بحجم الصلاحيات التي تمنحها المؤسسة لهذه الأنظمة.
الحظر الكامل لأدوات الذكاء الاصطناعي ليس حلًا عمليًا
يرى المركز الوطني للأمن السيبراني أن التعامل مع “الذكاء الاصطناعي الخفي” لا يجب أن يعتمد على محاولة منعه بالكامل.
ويتمثل النهج الأكثر فاعلية في تقليل المخاطر ووضع ضوابط واضحة للاستخدام الآمن. كما يشجع المركز الموظفين على مناقشة احتياجاتهم التقنية مع فرق الأمن السيبراني داخل المؤسسات.
وأشار المركز إلى أن حجب جميع أدوات الذكاء الاصطناعي المتاحة ليس خيارًا عمليًا. لذلك يمكن للمؤسسات الحد من المخاطر عبر توفير أدوات آمنة ومعتمدة تلبي احتياجات الموظفين.
وتساعد هذه السياسة أيضًا على تعزيز ثقافة الأمن السيبراني داخل الشركات. كما تمنح المؤسسات قدرة أكبر على إدارة استخدام الذكاء الاصطناعي وحماية البيانات والملكية الفكرية.
