أوبن إيه آي تستأنف تدريب نماذجها المتطورة بعد تعزيز إجراءات الأمان

استأنفت شركة «أوبن إيه آي»، المطورة لتطبيق «شات جي بي تي» بقيادة سام ألتمان، تدريب نماذج الذكاء الاصطناعي الأكثر تطورًا واستخدامها داخليًا، بعد تشديد إجراءات الحماية وتقييد وصول النماذج التجريبية إلى الإنترنت، في ظل تصاعد المخاوف من قدرة الأنظمة المتقدمة على اكتشاف الثغرات البرمجية واستغلالها.

وكانت الشركة قد أوقفت تدريب وتقييم نماذجها الأكثر كفاءة، بعدما استغل نموذج بحثي داخلي خللًا في الإعدادات في 2 سبتمبر، ما أتاح له لفترة وجيزة الوصول إلى الإنترنت بصورة محدودة.

استئناف التدريب

وأعلنت «أوبن إيه آي» في منشور على مدونتها أنها استأنفت تدريب نماذجها باستخدام التعلم المعزز، إلى جانب عمليات الاستدلال الداخلي لنماذجها الرائدة، في الأول من أكتوبر، عقب تطبيق إجراءات وقائية إضافية.

وأطلقت الشركة حملة لفحص بنيتها التحتية البحثية، بهدف رصد الثغرات التي قد تسمح لنماذج الذكاء الاصطناعي بالخروج من بيئات الحوسبة المعزولة المخصصة لها.

وتأتي هذه الخطوات وسط تنامي المخاوف من قدرة أنظمة الذكاء الاصطناعي المتطورة على تحديد الثغرات البرمجية واستغلالها، بما في ذلك الثغرات الموجودة في أنظمة الحماية.

ثغرات جديدة

وأفادت شركتا «METR» و«Redwood Research»، المتخصصتان في تقييم سلامة الذكاء الاصطناعي، يوم الخميس، باكتشاف عدة ثغرات جديدة في النظام الداخلي لشركة «أوبن إيه آي».

وتجري الشركة مراجعة شاملة لنشاط نماذج الذكاء الاصطناعي التابعة لها، وذلك عقب اختراق غير مقصود مرتبط بمنصة «Hugging Face».

مراجعة أمنية موسعة

وأبلغت «أوبن إيه آي» أكثر من 100 منظمة بوقوع حوادث أنشطة غير مصرح بها مرتبطة بوكلاء الذكاء الاصطناعي التابعين لها، في إطار المخاوف المتزايدة بشأن أمن هذه الأنظمة وقدرتها على التعامل مع البيئات الرقمية.