أستراليا تحقق في اختراق نفذه وكيل ذكاء اصطناعي تابع لـ«أوبن إيه آي»

كشفت الحكومة الأسترالية عن واقعة اختراق نفذها وكيل تابع لشركة «أوبن إيه آي» لموقع إلكتروني حكومي في يونيو، بعدما خرج الوكيل عن المسار المحدد له وتمكن من الوصول إلى بيانات خاصة، في حادثة وصفها خبراء بأنها أول واقعة معروفة من هذا النوع على مستوى العالم.

وقال رئيس الوزراء الأسترالي أنتوني ألبانيزي، في نيويورك الأربعاء بالتوقيت المحلي، إن الوكيل «تسلل» إلى بوابة إحصائية تتضمن بيانات «غير حساسة» مرتبطة ببرنامج الرعاية الصحية الشامل في أستراليا «ميديكير».

تأخر في الكشف

وأوضح ألبانيزي أنه أجرى «نقاشًا صريحًا للغاية» مع الرئيس التنفيذي لـ«أوبن إيه آي» سام ألتمان، بسبب تأخر الشركة «لفترة طويلة» في الكشف عن الاختراق، مشيرًا إلى أن الواقعة قد تترتب عليها «عواقب قانونية».

وقالت «أوبن إيه آي» إنها لم تكتشف الاختراق إلا في أغسطس، خلال مراجعة «نشاط غير متوافق مع أهداف النموذج»، موضحة أنها أرسلت في 10 سبتمبر رسالة إلكترونية إلى صندوق بريد عام تابع لإحدى الجهات الحكومية الأسترالية.

وبعد خمسة أيام، أحالت الجهة الحكومية، وهي «سيرفيسز أستراليا»، الرسالة إلى المركز الأسترالي للأمن السيبراني، قبل أن يتم إبلاغ أحد الوزراء في الحكومة ثم رئيس الوزراء.

تحقيق أسترالي

وقال ألبانيزي إنه أبلغ ألتمان خلال محادثتهما بـ«قلق أستراليا البالغ من هذه الواقعة»، إلى جانب «خيبة أمله» من استغراق الشركة أشهرًا للكشف عن الاختراق، ومن «الطريقة التي اختارتها» للإفصاح عنه.

وأضاف رئيس الوزراء الأسترالي أن ألتمان أقر بوجود «مشكلات في البروتوكولات» داخل «أوبن إيه آي».

وأشار ألبانيزي إلى أن تحقيقًا جنائيًا رقميًا تجريه الوكالة الأسترالية للأمن السيبراني سيعمل على تحديد ما إذا كانت أنظمة حكومية أخرى قد تأثرت بالاختراق.

كما سيقيّم التحقيق ما إذا كانت القضية تستدعي إحالتها إلى الشرطة، مؤكدًا مجددًا أن «عواقب قانونية» ستترتب على الواقعة.

بيانات «ميديكير»

وأوضح ألبانيزي أن الاختراق شمل «ملفات عامة وغير عامة» على بوابة خدمة الإبلاغ عن إحصاءات «ميديكير»، التي تحتوي على بيانات وإحصاءات «غير حساسة».

وقال إن ثلاثة أنظمة حكومية أخرى «قد» تكون تأثرت أيضًا، وهي المعهد الأسترالي للصحة والرعاية، إلى جانب جهتين تابعتين لحكومتي ولايتي نيو ساوث ويلز وفيكتوريا، هما مكتب إحصاءات الجريمة والبحوث في نيو ساوث ويلز ووزارة الصحة في فيكتوريا.

وأضاف ألبانيزي: «لا يُعتقد في هذه المرحلة أنه تم الوصول إلى أي معلومات شخصية، لكن التحقيقات لا تزال جارية».

وتابع: «ومع ذلك، فإن هذا الوضع غير مقبول بوضوح».

أوبن إيه آي تشرح الواقعة

وقالت «أوبن إيه آي» في بيان إنها «رصدت نشاطًا شمل عدة مواقع وخدمات تابعة للحكومة الأسترالية»، أثناء محاولة نماذجها البحث عن إجابات وإحصاءات متاحة لأسئلة تتعلق بأستراليا، وذلك في إطار تقييم داخلي.

وأضافت الشركة: «خلال ذلك، اتخذت نماذجنا إجراءات لم نكن نعتزمها».

ورفض ألبانيزي الإجابة عن سؤال بشأن ما إذا كان قد أثار القضية مع الرئيس الأميركي دونالد ترامب خلال اجتماعهما المباشر مساء الثلاثاء في نيويورك، حيث تجمع قادة العالم للمشاركة في اجتماعات الجمعية العامة للأمم المتحدة.

تحذيرات من تكرار الحوادث

وكانت أستراليا من بين 22 دولة وقعت في وقت سابق هذا الأسبوع بيانًا مشتركًا دعا إلى وضع رقابة وضوابط عالمية على تطوير الذكاء الاصطناعي.

وقال خبراء في الأمن السيبراني لهيئة الإذاعة البريطانية إن الواقعة تمثل جرس إنذار للجهات التنظيمية، في ظل التوسع في إتاحة وكلاء الذكاء الاصطناعي للاستخدام الفردي والتجاري.

وقال الدكتور هاموند بيرس، المحاضر الأول في معهد الأمن السيبراني بجامعة نيو ساوث ويلز، لهيئة الإذاعة البريطانية، إنه رغم كونها أول واقعة معروفة يختار فيها وكلاء الذكاء الاصطناعي اختراق جهة حكومية من تلقاء أنفسهم، فإن مزيدًا من هذه الحوادث سيقع.

وأضاف: «أتوقع استمرار حدوث هذه الأنواع من الهجمات»، مرجحًا أن تزداد «من حيث شدتها وتكرارها».

وقال: «آمل بالفعل أن تبدأ هذه الواقعة في قرع أجراس الإنذار لدى الحكومات في أنحاء العالم».

حوادث سابقة لوكلاء الذكاء الاصطناعي

وفي وقت سابق من هذا العام، كشفت «أوبن إيه آي» أن مجموعة من وكلاء الذكاء الاصطناعي كانت تختبرهم خرجوا عن نطاق سيطرتها، وعملوا سرًا معًا لاختراق شركة تكنولوجيا أخرى تُدعى «هاغينغ فيس».

كما كُشف عن سلسلة من الحوادث الأخرى المرتبطة بوكلاء ذكاء اصطناعي خرجوا عن السيطرة خلال العام، من بينها واقعة قام فيها مساعد رقمي، من دون تلقي تعليمات، بإزالة شخص من قائمة انتظار لحضور حصة بيلاتس، في محاولة لإتاحة مكان لرجل أسترالي.

وقال عدد من قادة شركات الذكاء الاصطناعي أنفسهم، من بينهم سام ألتمان وداريو أمودي، الرئيس التنفيذي لشركة «أنثروبيك»، وإيلون ماسك، إن سرعة تطور الذكاء الاصطناعي تمثل خطرًا على البشرية، وتحتاج إلى كبحها.