أسلحة ذاتية التشغيل قد تقتل مليار إنسان؟ خبير يوضح حدود الخطر

تبدو فكرة أن تقتل أنظمة الذكاء الاصطناعي مليار إنسان أقرب إلى سيناريو خيال علمي.

لكن السؤال الذي طرح في نقاش على شاشة الجزيرة لا يتعلق بالرقم وحده، بل بمن يمتلك قرار استخدام القوة عندما تختار منظومة آلية هدفا وتشتبك معه من دون تدخل بشري مباشر.

في مقابلة مع الجزيرة، قال البروفيسور بيتر لي، أستاذ الأخلاقيات التطبيقية في مركز دراسات الدفاع بجامعة بورتسموث، وعضو اللجنة الاستشارية لأخلاقيات الذكاء الاصطناعي والاستقلالية التابعة لوزارة الدفاع البريطانية، إنه يتفهم القلق الذي أثاره حديث رئيس شركة مايكروسوفت بيل غيتس عن إمكانية أن تتسبب أنظمة الذكاء الاصطناعي في قتل أعداد هائلة من البشر.

وأوضح "لي" أن غيتس، لم يوضح الآلية التي يمكن أن تقود إلى هذا السيناريو..

مشددا على أن أنظمة الذكاء الاصطناعي ما زالت في مراحل مبكرة من التطوير.

بهذا المعنى، لا يقدم "لي " جوابا يبدد المخاوف، بل يعيد وضعها في مكانها الأدق: ليست المشكلة أن الآلة ستستيقظ فجأة لتقتل مليارا، بل إن استخدامها العسكري يتقدم، فيما تبقى قواعد التحكم فيها موضع خلاف بين الدول.

ورأى لي أن السيناريو الكارثي قد يرتبط بإدماج الذكاء الاصطناعي في أنظمة القيادة والسيطرة النووية لدى الولايات المتحدة أو روسيا.

لكنه استبعد أن يكون للذكاء الاصطناعي، في وضعه الراهن، قدرة على تنفيذ قتل بهذا الحجم، مشيرا إلى أن القوى النووية تملك إجراءات أمنية معقدة لحماية منظوماتها، وأنها ليست أنظمة يمكن اختراقها ببساطة عبر الإنترنت.

فالأنظمة ذاتية التشغيل لا تثير الجدل بسبب قدرتها التقنية فقط، بل لأنها قد تقلص المسافة بين تحليل البيانات وتحديد الهدف وتنفيذ الضربة.

والسؤال الذي يطرح هنا ليس: هل تستطيع الخوارزمية أن تخوض حربا نووية وحدها؟

بل: إلى أي حد يسمح البشر لها بأن تشارك في قرار استخدام القوة قبل أن يبقى تدخلهم مجرد إجراء شكلي؟

ولهذا تدعو الأمم المتحدة واللجنة الدولية للصليب الأحمر إلى قواعد دولية ملزمة تحظر بعض أنواع الأسلحة الذاتية وتفرض قيودا واضحة على أنواع أخرى، مع الحفاظ على السيطرة البشرية في اس…