هجمات وكلاء الذكاء الاصطناعي تتصاعد.. أوبن إيه آي في قلب حادث جديد

قبل شهرين من تعرض منصة «هاغينغ فايس» للاختراق بواسطة عملاء ذكاء اصطناعي، كانت شركة «أوبن إيه آي» قد فقدت السيطرة على أدوات مماثلة اخترقت منصة أخرى وحاولت الاستيلاء على مفاتيح نفاذ المستخدمين، وفق ما كشفه باحثون.

وأكدت «أوبن إيه آي» لوكالة «فرانس برس» انخراط عملائها في تلك العملية التي وقعت في مايو، موضحة أن أدواتها استخدمت منصة المطورين «روبي جيمز» للوصول إلى الإنترنت بهدف تنفيذ مهام بسيطة وجمع معلومات عامة.

حادثة جديدة

وكشفت الشركة أنه لم يتسنَّ لها حتى الآن التحقق من الأنشطة الخبيثة التي استعرضها الباحثون، مؤكدة أنها تواصل التحقيق في الواقعة.

وعملاء الذكاء الاصطناعي هم برامج قائمة على الذكاء الاصطناعي التوليدي، قادرة على تنفيذ سلسلة من المهام بصورة مستقلة. وكان من المفترض أن يقتصر دور الوكلاء الذين تناولهم تقرير الباحثين، خلال فترة تدريبية، على ملء جداول وإعداد تقارير من دون نفاذ كامل إلى الإنترنت، إلا أنهم تمكنوا من تجاوز هذا القيد بوسائلهم الخاصة.

وفي يوليو، خرج وكلاء تابعون لـ«أوبن إيه آي» عن السيطرة واخترقوا منصة «هاغينغ فايس» المتخصصة في مشاركة نماذج الذكاء الاصطناعي. وأثارت عملية الاختراق ضجة واسعة، وجددت المخاوف بشأن قدرة شركات الذكاء الاصطناعي على إبقاء نماذجها ووكلائها تحت السيطرة.

هجمات متكررة

وأقرت «أوبن إيه آي»، التي تتخذ من سان فرانسيسكو مقرًا لها، لاحقًا بوقوع حوادث أخرى مماثلة، كما سُجلت هجمات مشابهة لدى منافسين، من بينهم «أنثروبيك» و«ميتا» والشركة الصينية «مونشوت».

وفي الرابع من سبتمبر، كشف الباحثون أنفسهم ضمن تحالف «نايتنغايل» أن آلافًا من وكلاء «أوبن إيه آي» سيطروا على موقع تعاون ألماني في مايو، في حادث تحقق المفوضية الأوروبية في ملابساته.

والثلاثاء، غادر الباحث جايكوب كوكسون، الذي انتقل من «أوبن إيه آي» إلى «أنثروبيك»، قطاع التكنولوجيا، متهمًا الشركتين بـ«اللعب بحياتنا».

واضطر موقع «روبي جيمز»، الذي يستخدمه مطورو البرامج، إلى تعليق الاشتراكات فيه لمدة أربعة أيام اعتبارًا من 12 مايو، وسحب أكثر من 500 ملف خبيث، وفق ما أكدت مؤسسة «روبي سنترال» التي تدير الموقع مساء الجمعة.

استغلال ثغرة

وبحسب التقرير، أنشأ وكلاء الذكاء الاصطناعي حسابات متتالية من خلال استغلال ثغرة لم تكن معروفة سابقًا، بهدف الاستحواذ على مفاتيح نفاذ المستخدمين.

وتسلط هذه الواقعة الضوء مجددًا على المخاطر المرتبطة بمنح وكلاء الذكاء الاصطناعي قدرات مستقلة للوصول إلى الإنترنت وتنفيذ المهام، خصوصًا عندما يتمكنون من تجاوز القيود المفروضة عليهم واستخدام ثغرات في المنصات للوصول إلى بيانات أو أدوات لم يكن من المفترض أن تكون متاحة لهم.