سرب من وكلاء الذكاء الاصطناعي.. هل يقترب الإنترنت من لحظة فقدان السيطرة؟

كشفت اختبارات وحوادث أمنية حديثة عن تحول لافت في طريقة عمل وكلاء الذكاء الاصطناعي، إذ باتت بعض هذه الأنظمة قادرة على التخطيط للمهام وتنفيذها، والتواصل مع خدمات رقمية، وتقسيم العمل مع وكلاء آخرين، وتجاوز بعض القيود الموضوعة أمامها أحيانا، ومع اتساع نطاق المهام التي تستطيع هذه الأنظمة تنفيذها، تتزايد المخاوف من قدرة البشر على مراقبة هذا النشاط عندما يجري على نطاق واسع وبسرعة كبيرة.

ويشير المعهد الوطني الأمريكي للمعايير والتكنولوجيا "إن آي إس تي " (NIST) إلى أن وكلاء الذكاء الاصطناعي أصبحوا قادرين على تنفيذ مهام تمتد لساعات، تشمل كتابة التعليمات البرمجية وتصحيحها، وإدارة البريد الإلكتروني والتقويم، والتعامل مع خدمات رقمية مختلفة.

ويركز المعهد في مبادراته الجديدة على قضايا هوية الوكلاء وإدارة صلاحياتهم ومراجعة أفعالهم.

يكمن التحول الأساسي في انتقال الذكاء الاصطناعي من نموذج ينتظر أمرا محددا إلى نظام يستطيع تحويل هدف عام إلى سلسلة من الخطوات وتنفيذها باستخدام الأدوات والبرمجيات المتاحة له.

وبذلك، لا يقتصر دور الوكيل على تقديم توصية، بل يمكنه الوصول إلى البيانات وتشغيل التطبيقات والتواصل مع الخدمات الرقمية وتنفيذ إجراءات متتابعة لتحقيق الهدف.

وتكمن المخاطرة في أن الخطأ لم يعد محصورا في إجابة يمكن للمستخدم تجاهلها أو تصحيحها، فالوكيل الذي يمتلك صلاحية تعديل ملف أو تشغيل برنامج أو الوصول إلى خدمة خارجية يستطيع تحويل الخطأ إلى إجراء فعلي.

ولهذا تركز الجهود الأمنية على ما يتجاوز النموذج نفسه، لتشمل الصلاحيات التي يحصل عليها، والأدوات التي يستطيع استخدامها، والأنظمة التي يمكنه الوصول إليها، وآليات تسجيل أفعاله ومراجعتها.

يزداد التعقيد عندما يعمل أكثر من وكيل ضمن منظومة واحدة، ففيما يعرف بالأنظمة متعددة الوكلاء، يمكن لوكيل رئيسي تقسيم المهمة إلى أجزاء وإسنادها إلى وكلاء فرعيين يتولون الاستطلاع أو التحليل أو تنفيذ خطوات مختلفة بالتوازي.

ورصدت شركة أنثروبيك، في تقرير أمني نشرته في سبتمبر/أيلول الحالي، استخدام هذه البنية في عمليات هجومية، حيث وزعت مهام الاستطلاع والاستغلال وسرقة…