"استقالة" تدق ناقوس الخطر.. تحذير من ذكاء اصطناعي فائق

وبحسب موقع "أكسيوس"، اتهم كوكسون شركتي "أنثروبيك" و"أوبن إيه آي" بالمخاطرة بالسلامة تحت ضغط المنافسة، معتبرا أنهما تتجهان نحو أنظمة قادرة على تحسين قدراتها بصورة متكررة، وداعيا إلى تدخل حكومي وتنسيق دولي لإبطاء التطوير.

وتكشف الاستقالة مفارقة تواجه كبرى شركات القطاع: كل شركة تدرك المخاطر المحتملة، لكنها تخشى أن يؤدي إبطاء عملها منفردة إلى منح منافسيها فرصة التقدم عليها.

ويقول المستشار في أمن وتكنولوجيا المعلومات والتحول الرقمي، رولاند أبي نجم، في حديث إلى سكاي نيوز عربية، إن المخاوف تتزايد مع ارتفاع سرعة تطوير الأنظمة ومنحها صلاحيات أوسع.

وأضاف: "بصراحة، نحن ذاهبون في هذا الاتجاه، ومع الوقت تصبح السرعة أكبر بكثير".

وأوضح أبي نجم أن الدعوات إلى إبطاء تطوير الذكاء الاصطناعي ليست جديدة، مشيرا إلى أن شخصيات وشركات سبق أن طالبت بمنح التشريعات وضوابط السلامة وقتا للحاق بالتقدم التقني، قبل أن تواصل هي نفسها السباق تحت ضغط المنافسة.

وقال إن المشكلة لا تتعلق بشركة أو دولة واحدة، لأن إبطاء الشركات الأميركية، على سبيل المثال، لن يحقق هدفه إذا واصلت شركات أخرى داخل الولايات المتحدة أو خارجها تطوير أنظمتها بالسرعة نفسها.

وتظهر هذه المعضلة في "إطار الاستعداد" الخاص بشركة "أوبن إيه آي"، الذي يتيح لها تعديل بعض متطلبات السلامة إذا طرح مطور منافس نظاما عالي المخاطر من دون ضمانات مماثلة، وفق شروط تشمل الإعلان عن التعديل وعدم زيادة مخاطر وقوع أضرار جسيمة.

يرى أبي نجم أن انتقال الذكاء الاصطناعي من أنظمة تجيب عن أسئلة المستخدمين إلى "وكلاء" قادرين على تنفيذ مهام واتخاذ قرارات واستخدام أدوات رقمية زاد مستوى المخاطر.

وأوضح أن وكلاء الذكاء الاصطناعي قد يعملون بأعداد كبيرة، ويتولون سلسلة من المهام من دون حاجة إلى تدخل بشري في كل خطوة، ما يجعل ضبط الصلاحيات ومراقبة القرارات أكثر تعقيدا.