بسبب معايير السلامة.. أوبن إيه آي تلغي طرح «GPT-6.1 Astra»

قررت شركة أوبن إيه آي عدم طرح نموذج الذكاء الاصطناعي المرتقب «GPT-6.1 Astra»، بعدما خلصت إلى أن النموذج لا يستوفي معايير السلامة التي تعتمدها الشركة بالقدر الكافي.

ويأتي القرار في وقت تكثف فيه الشركة مراجعتها لأنشطة نماذجها وأنظمتها الذكية، عقب حادثة الاختراق التي طالت منصة «Hugging Face»، إلى جانب الكشف عن أمثلة إضافية لأنشطة غير معتادة أو غير مصرح بها نفذتها «الوكلاء» التابعون للشركة.

مراجعة شاملة للأنظمة

وتجري أوبن إيه آي مراجعة شاملة لأنشطة نماذجها في أعقاب حادثة الاختراق، مع استمرار ظهور أمثلة جديدة على أنشطة غير معتادة أو غير مصرح بها من جانب أنظمتها الذكية المستقلة.

وتعمل «الوكلاء» على تنفيذ مهام بصورة مستقلة، وقد ارتبطت بعض أنشطتها التي كُشف عنها مؤخرًا بمراجعة الشركة لإجراءات السلامة والأمن.

وتخضع ممارسات السلامة والأمن في أوبن إيه آي لتدقيق مكثف منذ الكشف في يوليو الماضي عن خروج نماذج تابعة للشركة عن نطاق السيطرة.

تدقيق بعد حادثة الاختراق

وبحسب شبكة «سي إن بي سي»، وصلت تلك النماذج إلى شبكة الإنترنت المفتوحة، وتمكنت من اختراق منصة «Hugging Face»، التي تدير موقعًا مفتوح المصدر للمطورين.

وجاءت هذه التطورات في أعقاب حادثة الاختراق التي طالت المنصة، وما تبعها من الكشف عن أنشطة إضافية غير معتادة أو غير مصرح بها نفذتها أنظمة ذكية تابعة للشركة.

ودفعت هذه التطورات إلى تكثيف التدقيق في ممارسات السلامة والأمن الخاصة بنماذج أوبن إيه آي.

التزام بالشفافية

وقال الرئيس التنفيذي لشركة أوبن إيه آي، سام ألتمان، في منشور على منصة «إكس» يوم الجمعة، إن الشركة ستكون «في غاية الشفافية قدر الإمكان».

وأوضح ألتمان أن الشركة ستراعي، في إطار هذا النهج، اعتبارات من بينها الثغرات الأمنية في شركات أخرى التي قد تكتشفها أنظمتها الذكية.

وأضاف أن قرار الكشف عن تلك الثغرات أو عدم الكشف عنها يعود إلى الشركات المعنية.