خلل في اختبار أمني يتيح لجيميناي الوصول إلى أنظمة 3 شركات

كشفت شركة جوجل عن واقعة تمكن خلالها نموذج الذكاء الاصطناعي «جيميني» من الوصول دون تصريح إلى أنظمة كمبيوتر تابعة لثلاث شركات، في حادثة قالت الشركة إنها المرة الأولى التي تكشف فيها عن تمكن أحد نماذجها بصورة مستقلة من الوصول إلى أنظمة خارجية حقيقية.

ووقعت الحادثة خلال اختبار أمني أجرته شركة «إيرريغولار» الإسرائيلية الناشئة، بعدما أتاح خلل في بيئة الاختبار لنموذج «جيميني» الاتصال بالإنترنت الخارجي، رغم أن إعدادات الاختبار كانت تفترض عدم إمكانية وصول نماذج جوجل إلى الشبكة.

كيف حدث الاختراق؟

وأوضحت جوجل أن «جيميني» تمكن خلال مايو من الوصول إلى ثلاثة أنظمة كمبيوتر خاصة ومنفصلة، بعدما خمّن كلمات مرور، واستخدم في حالتين مستودعًا يحتوي على كلمات مرور منشورة بشكل علني.

وكان الاختبار من نوع «التقاط العلم»، وهو اختبار أمني يهدف إلى تقييم قدرة نماذج الذكاء الاصطناعي على اكتشاف الثغرات والتعامل معها ضمن بيئة محكومة.

وقالت جوجل إن النماذج أوقفت محاولاتها للوصول بعدما أدركت أنها تمكنت من الوصول إلى أنظمة حقيقية تابعة لشركات، وليس إلى أجزاء من بيئة الاختبار.

النموذج أوقف محاولاته

وقالت هذر أدكينز، نائبة رئيس هندسة الأمن في جوجل، إن النموذج عثر خلال تقييم اعتيادي على معلومات متاحة للعامة عبر الإنترنت، وخمّن بيانات اعتماد للوصول إلى مواقع إلكترونية اعتقد أنها جزء من الاختبار.

وأضافت أدكينز أن النموذج توقف في الحالات الثلاث بعدما تبين له أن الأنظمة التي وصل إليها حقيقية.

ويأتي الكشف عن الواقعة في وقت تتزايد فيه المخاوف في واشنطن ووادي السيليكون بشأن قدرة نماذج الذكاء الاصطناعي على اتخاذ إجراءات غير متوقعة أثناء تنفيذ المهام الموكلة إليها.

حوادث مماثلة

وأعلنت شركات «أوبن إيه آي» و«أنثروبيك» و«ميتا» خلال الأسابيع الأخيرة عن حوادث تمكنت فيها نماذج ذكاء اصطناعي تابعة لها من الخروج من بيئات الاختبار ومحاولة الوصول بصورة غير مصرح بها إلى أنظمة شركات أخرى.

وأثارت هذه الوقائع، التي وُصفت بأنها مرتبطة بنماذج ذكاء اصطناعي لا تتوافق تصرفاتها مع الأهداف المحددة لها، دعوات من داريو أمودي، الرئيس التنفيذي لشركة «أنثروبيك»، إلى إبطاء تطوير أكثر نماذج الذكاء الاصطناعي تقدمًا بشكل جماعي، إلى حين ضمان سلامتها.

وترتبط جميع الحوادث المذكورة بشركة «إيرريغولار» الإسرائيلية الناشئة، التي تحظى بدعم شركتي «سيكويا» و«ريدبوينت فنتشرز»، وبلغت قيمتها العام الماضي 450 مليون دولار، وتساعد أدواتها مطوري نماذج الذكاء الاصطناعي الأساسية في إجراء اختبارات للأمن السيبراني على تقنياتهم المتطورة.

خلل مشترك في الاختبارات

وقال متحدث باسم «إيرريغولار» لشبكة «سي إن بي سي» إن حادثة غوغل مرتبطة بالمشكلة نفسها التي سمحت للنماذج الأخرى بالوصول إلى الإنترنت، مؤكدًا أنها لا تمثل حادثة منفصلة بشكل جوهري.

وأضاف أن جميع المختبرات المعنية أُخطرت بالمشكلة في أواخر يوليو، كما جرى التواصل مع الجهات المتضررة في إطار التحقيق.

من جانبها، قالت غوغل إن الحادثة وقعت في مايو، وإن «إيرريغولار» أبلغتها بها في أواخر يوليو، مشيرة إلى أنها عملت مع الشركة لتعديل إجراءات الاختبار.

غوغل تعدّل إجراءات الاختبار

ورفض متحدث باسم غوغل الكشف عن نموذج «جيميني» المحدد الذي كان مستخدمًا خلال الاختبار.

وقالت أدكينز إن هذه الأحداث تؤكد أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بصورة مسؤولة، في ظل اتساع نطاق قدراتها وتزايد الحاجة إلى اختبارها ضمن بيئات آمنة ومحكومة.