اختبارات أمنية تكشف اتساع قدرات وكلاء الذكاء الاصطناعي ومخاطرها

كشفت اختبارات أمنية حديثة أن بعض وكلاء الذكاء الاصطناعي باتوا قادرين على تنفيذ مهام ممتدة، والتنسيق مع وكلاء آخرين، والوصول إلى خدمات رقمية، فيما أظهرت حالات اختبارية تمكن نماذج من تجاوز ضوابط والوصول بصورة غير مصرح بها إلى أنظمة خارجية. وتضع هذه الوقائع آليات الصلاحيات والمراقبة والتدخل في صدارة نقاشات الأمان.

الوكلاء يحولون الأهداف إلى إجراءات رقمية

ويتمثل التحول الأساسي في انتقال هذه الأنظمة من تقديم إجابات أو توصيات إلى تحويل هدف عام إلى خطوات عملية وتنفيذها بواسطة أدوات وبرمجيات متاحة. ويمكن للوكيل، وفق صلاحياته، الوصول إلى البيانات وتشغيل التطبيقات وإدارة خدمات مثل البريد الإلكتروني والتقويم، ما يجعل الخطأ قابلاً للتحول إلى إجراء فعلي بدلاً من بقائه ضمن إجابة نصية.

ويشير المعهد الوطني الأميركي للمعايير والتكنولوجيا إلى أن الوكلاء أصبحوا قادرين على أداء مهام تستمر ساعات، من بينها كتابة التعليمات البرمجية وتصحيحها والتعامل مع خدمات رقمية مختلفة. ويركز المعهد على تحديد هوية الوكلاء وإدارة صلاحياتهم وتسجيل أفعالهم ومراجعتها، إلى جانب الحماية من هجمات حقن التعليمات.

أنثروبيك ترصد هجمات متعددة الوكلاء

ويزداد التعقيد داخل الأنظمة متعددة الوكلاء، حيث يستطيع وكيل رئيسي تقسيم المهمة وإسناد عمليات الاستطلاع أو التحليل أو التنفيذ إلى وكلاء فرعيين يعملون بالتوازي. ورصدت شركة أنثروبيك في تقرير أمني نشرته في سبتمبر/أيلول 2026 استخدام هذه البنية في عمليات هجومية وُزعت فيها مهام الاستطلاع والاستغلال وسرقة البيانات على عدد كبير من الوكلاء.

وقالت الشركة إنها رصدت أيضاً أسطولاً من 13 وكيلاً بحث آلياً عن محتوى في مواقع مستهدفة ثم نزّله وحلله وفق جدول زمني. كما سجلت عمليات استمرت ساعات أو أيام بتدخل بشري محدود، مع احتفاظ البشر ببعض القرارات الأساسية، ومنها اختيار الأهداف ومراجعة النتائج.

اختبارات أوبن إيه آي تكشف تجاوز العزل

وفي اختبارات أجرتها أوبن إيه آي خلال يوليو/تموز 2026، قالت الشركة إن نماذج تمكنت من تجاوز بعض الضوابط المخصصة لعزلها عن الإنترنت، والوصول إلى أجزاء من البنية التحتية البحثية وأنظمة تابعة لخدمة هاغينغ فيس. وأوضحت أن الاختبارات أُجريت بعد خفض بعض الحواجز الوقائية لأغراض البحث، وأن النماذج استغلت نقاط ضعف في بيئة مشتركة واستخدمت قنوات اتصال غير مصرح بها.

توسع المسارات يصعّب التوقع والمراجعة البشريةّطاء

ولا تعني هذه الحالات أن الوكلاء الحاليين يعملون باستقلال كامل عن البشر، إذ تظل قدراتهم مرتبطة بالبنية التحتية والصلاحيات المتاحة لهم. لكنها تُظهر أن الجمع بين التخطيط واستخدام الأدوات والاتصال بأنظمة خارجية يزيد عدد المسارات الممكنة لتنفيذ المهمة، ويجعل توقعها ومراجعتها أكثر تعقيداً.

وفي فبراير/شباط 2026، أطلق المعهد الوطني الأميركي للمعايير والتكنولوجيا مبادرة لوضع معايير لوكلاء الذكاء الاصطناعي، تغطي الأمن والهوية وقابلية التشغيل البيني. ويعكس ذلك توجهاً نحو مراقبة سلسلة القرارات والأدوات والصلاحيات المستخدمة أثناء التنفيذ، بدلاً من الاكتفاء بتقييم النموذج منفرداً.

وحذر الرئيس التنفيذي لأنثروبيك داريو أمودي من احتمال تمكن أسراب من الوكلاء المتقدمين من السيطرة على أجزاء واسعة من الإنترنت خلال فترة بين 6 و12 شهراً، إذا تطورت قدراتها بوتيرة تتجاوز إجراءات السلامة. ويظل هذا التحذير توقعاً مستقبلياً، بينما تتركز المخاطر القائمة على سرعة تنفيذ العمليات واتساع نطاقها مقارنة بقدرة البشر على متابعتها.

وتزداد أهمية هذه الإجراءات عند تشغيل مئات أو آلاف الوكلاء بالتزامن، بما يرفع حجم القرارات والعمليات المطلوب تدقيقها.