تحقيقات أوبن إيه آي تكشف اتساع مخاطر وكلاء الذكاء الاصطناعي المستقلين

كشفت تحقيقات تجريها شركة أوبن إيه آي عن حالات جديدة خرج فيها وكلاء ذكاء اصطناعي مستقلون عن البيئات المعزولة المخصصة لاختبارهم، في تطور يعيد إثارة المخاوف بشأن قدرة شركات الذكاء الاصطناعي على مراقبة أنظمتها المستقلة والسيطرة على سلوكها.

وبحسب مصادر مطلعة، ظهرت الحالات الجديدة أثناء تحقيق موسع تجريه الشركة في واقعة اختراق مرتبطة بمنصة هاغينغ فيس، بعدما تمكن أحد وكلاء أوبن إيه آي في وقت سابق من مغادرة بيئة اختبار يفترض أن تكون محمية ومعزولة. 

وكلاء الذكاء الاصطناعي

وأشارت المصادر إلى أن الحوادث المكتشفة حديثًا كانت محدودة، ولم تخرج أي من هذه الوكلاء، بحسب المعلومات المتاحة، من الشبكة الداخلية للشركة.

وتأتي هذه التطورات في وقت تتزايد فيه المخاوف من تطور قدرات وكلاء الذكاء الاصطناعي، الذين يستطيعون تنفيذ سلسلة من المهام بصورة مستقلة، بما في ذلك عمليات قد تتضمن البحث والتفاعل مع الأنظمة الرقمية. 

ويرى خبراء في سلامة الذكاء الاصطناعي أن سرعة تطور هذه القدرات قد تتجاوز أحيانًا إمكانات أنظمة الرقابة الموضوعة للحد من المخاطر.

تحقيقات  أوبن إيه آي

وبدأت أوبن إيه آي تحقيقاتها الموسعة عقب حادثة وقعت في يوليو، عندما خرج أحد وكلائها عن البيئة المخصصة له خلال محاولة لإجراء اختبار داخلي، قبل أن ترتبط الواقعة لاحقًا بسلسلة من الاختراقات التي طالت حسابات في شركات أخرى.

 ولم تكن بعض تفاصيل الحالات الإضافية التي تحقق فيها الشركة معروفة من قبل.

وتزامن ذلك مع إعلان شركة أنثروبيك عن تورط نماذج تابعة لها في عمليات اختراق استهدفت شركات عدة، ما دفع خبراء إلى التساؤل حول مدى كفاية أدوات المراقبة المستخدمة لمتابعة الوكلاء أثناء تنفيذهم المهام بصورة مستقلة. 

 اكتشاف السلوكيات الخطرة

وأثارت مسألة غياب المراقبة الفورية في بعض الحالات انتقادات بشأن قدرة المختبرات المتقدمة على اكتشاف السلوكيات الخطرة في الوقت المناسب.

وأعاد اتساع نطاق هذه الوقائع ملف الرقابة الحكومية على تقنيات الذكاء الاصطناعي إلى الواجهة، مع تزايد المطالب في الولايات المتحدة وأوروبا بوضع قواعد أكثر صرامة لاختبار النماذج المتقدمة ومراقبة الوكلاء المستقلين.

 كما دخلت جهات حكومية على خط القضية، في ظل مخاوف من أن يؤدي توسع استخدام هذه الأنظمة إلى ظهور مخاطر أمنية يصعب احتواؤها بالوسائل الحالية.