للحد من مخاطر العنف.. قيود جديدة من أوبن إيه آي على محادثات المراهقين في تشات جي بي تي

تعتزم شركة «أوبن إيه آي» تشديد القيود على المعلومات المتعلقة بالأسلحة التي يتيحها تطبيق «تشات جي بي تي» للمراهقين، ضمن حزمة إجراءات وقائية جديدة تستهدف الحد من احتمالات وقوع أعمال عنف في العالم الحقيقي.

وأعلنت الشركة، يوم الجمعة 30 أكتوبر 2026، أن القيود الجديدة تأتي في وقت تتزايد فيه الرقابة على شركات الذكاء الاصطناعي، وسط مخاوف بشأن المخاطر التي قد تشكلها روبوتات الدردشة على المستخدمين صغار السن، ومدى مسؤولية الشركات عن رصد التهديدات التي قد تؤدي إلى إلحاق الأذى بالآخرين.

قيود على معلومات الأسلحة

وبموجب الإجراءات الجديدة، ستحد «أوبن إيه آي» من إتاحة المعلومات العملية المتعلقة بالأسلحة وأنظمة الأمن التي يمكن إساءة استخدامها، على أن تسري هذه القيود على المراهقين حتى في حال عدم وجود مؤشرات على نيتهم ارتكاب أعمال عنف.

كما سيتمكن «تشات جي بي تي» من إنهاء المحادثات تلقائياً مع جميع المستخدمين عندما يبدو أن أحدهم يركز بشكل مفرط على العنف، فيما قد تلجأ الشركة إلى تعليق الحسابات مؤقتاً حال تكرار هذا النوع من المحادثات عدة مرات.

وعززت الشركة أيضاً نظامها لتقدير أعمار المستخدمين، بهدف نقل من يُرجح أن تقل أعمارهم عن 18 عاماً إلى تجربة مخصصة للمراهقين، كما تعتزم إخطار أولياء الأمور إذا عُلقت حسابات أبنائهم بسبب تكرار مناقشة موضوعات العنف.

إجراءات تشمل جميع المستخدمين

وتفرض «أوبن إيه آي» بالفعل قيوداً على التفاصيل المتعلقة بالهجمات الجماعية السابقة لجميع المستخدمين، بما في ذلك أنواع الأسلحة المستخدمة وطرق الحصول عليها.

وقالت الشركة إن إجراءات الحماية الجديدة ستبدأ في التطبيق خلال الأسابيع القليلة المقبلة، مشيرة إلى أنها ستواصل العمل على تطويرها وتحسينها.

مخاوف بشأن سلامة المراهقين

وكانت «أوبن إيه آي» قد ذكرت في وقت سابق من أكتوبر أن المراهقين يقضون أقل من 15 دقيقة يومياً في المتوسط على تطبيق «تشات جي بي تي»، وذلك في أول تقرير تصدره الشركة عن أنماط استخدام هذه الفئة العمرية للمنصة.

وفي المقابل، كشف تقرير صادر عن منظمة «كومون سينس ميديا» غير الربحية خلال الشهر نفسه أن النسخة المخصصة للمراهقين من «تشات جي بي تي» كانت في كثير من الأحيان تنبه أولياء الأمور متأخراً، أو لا ترسل إليهم تنبيهات على الإطلاق، عندما تتضمن محادثات أبنائهم موضوعات تتعلق بالانتحار أو إيذاء النفس أو اضطرابات الأكل.