"خطر وجودي على البشرية".. تحذير خطير للأمم المتحدة من الذكاء الاصطناعي المتطور

حذر مفوض الأمم المتحدة السامي لحقوق الإنسان فولكر تورك من أن الذكاء الاصطناعي المتطور ربما يشكل تهديداً وجودياً على البشرية، متعهداً بمواصلة الضغط على الشركات للحد من مخاطره.

وقال مكتب المفوض إن المخاطر المحتملة لهذه التقنية تشمل تعطيل الخدمات والاتصالات والأنظمة الديمقراطية، في وقت تتسارع فيه وتيرة تطوير أنظمة الذكاء الاصطناعي وقدراتها.

ضمانات صارمة

وفي خطاب ألقاه قبيل بدء ولايته الثانية، دعا تورك إلى وضع «ضمانات صارمة» لضمان سلامة وأمن الذكاء الاصطناعي، مطالباً في الوقت نفسه بمحاسبة المسؤولين عن الوفيات التي وقعت في مراكز أميركية لاحتجاز المهاجرين.

كما أعرب عن استنكاره لما يقال عن استخدام روسيا طائرات مسيرة ذاتية القيادة.

ويعد الخطاب أول كلمة شاملة يلقيها تورك أمام مجلس حقوق الإنسان، المؤلف من 47 عضواً، منذ فوزه بولاية ثانية مدتها أربع سنوات في يوليو/تموز، رغم معارضة موسكو وواشنطن.

مخاطر بلا حدود

وقال تورك أمام المجلس في جنيف: «أشارك من هم في داخل هذا القطاع مخاوفهم من أن الذكاء الاصطناعي المتطور ربما يشكل خطراً وجودياً على البشرية».

وأضاف: «أدعو هنا اليوم إلى بذل جهد شامل لوضع ضمانات صارمة لا تقبل المساومة بشأن سلامة وأمن الذكاء الاصطناعي قبل فوات الأوان».

ولم يحدد المفوض طبيعة المخاطر التي يقصدها بشكل مفصل، إلا أن متحدثة باسم مكتبه أوضحت أن الأعطال التي قد تصيب أنظمة الذكاء الاصطناعي القوية يمكن أن تؤدي إلى تعطيل البنية التحتية الحيوية والمؤسسات الديمقراطية.

تطور أسرع من الحماية

وأشارت المتحدثة إلى واقعة منصة «هاجينغ فيس» (Hugging Face) التي حدثت في يوليو، حين اخترقت مجموعة من الأدوات التابعة لشركة «أوبن إيه آي» منصة مفتوحة المصدر.

وقالت إن الواقعة تضمنت «سلوكيات تدريب البرامج الضارة الخطيرة»، معتبرة أنها تشير إلى أن قدرات الذكاء الاصطناعي المتقدمة تتطور بوتيرة أسرع من آليات الحماية.

ودون أن يسميهم، قال تورك إن بضعة أفراد باتوا يتمتعون بـ«تحكم بلا حدود تقريباً على الذكاء الاصطناعي»، في إشارة إلى النفوذ المتزايد للشركات والأطراف التي تطور هذه التقنيات.

دعوة إلى خطوط حمراء

وتعد شركات «ميتا» و«أنثروبيك» و«أوبن إيه آي» و«غوغل» من أبرز الشركات العاملة في مجال الذكاء الاصطناعي.

وقال تورك إن الحد الأدنى المطلوب يتمثل في اتفاق الدول التي تستضيف شركات الذكاء الاصطناعي، وكذلك الدول المشاركة في سلاسل إمدادها، على وضع «خطوط حمراء» واضحة.

ويعقد مجلس حقوق الإنسان اجتماعاته حتى السابع من أكتوبر الأول لمناقشة الحرب الأميركية على إيران والحرب الأهلية في السودان، إلى جانب مجموعة من الأزمات الدولية الأخرى.

وفيات مراكز الاحتجاز

وانسحبت إدارة الرئيس الأمريكي دونالد ترامب من مجلس حقوق الإنسان العام الماضي، واتهمته بالانحياز ضد إسرائيل.

وفي سياق منفصل، دعا تورك إلى محاسبة المسؤولين عن نحو 23 وفاة قال إنها وقعت في مراكز أميركية لاحتجاز المهاجرين منذ بداية العام وحتى الآن.

كما أعرب عن قلقه إزاء خطط تزويد عناصر الأمن بقفازات للصعق الكهربائي، في ظل استمرار الجدل بشأن أوضاع مراكز احتجاز المهاجرين في الولايات المتحدة.

تحقيقات أميركية

وكانت وزارة الأمن الداخلي الأميركية قد أكدت في وقت سابق التزامها بضمان توفير بيئة «آمنة ومأمونة وإنسانية» في مراكز الاحتجاز.

ويجري المفتش العام التابع للوزارة حالياً فحص حالات الوفاة التي وقعت أثناء الاحتجاز منذ أكتوبر 2021.

وتأتي هذه التحقيقات بالتزامن مع دعوة المفوض الأممي إلى تعزيز المساءلة عن الوفيات، في إطار اهتمام الأمم المتحدة بأوضاع حقوق الإنسان داخل مراكز احتجاز المهاجرين.