أوبن إيه آي في مرمى الانتقادات.. موظف سابق يحذر من مخاطر تسارع التطوير

وجه ديفيد روبنسون، الموظف السابق في قسم السلامة لدى أوبن إيه آي، انتقادات حادة إلى نهج الشركة في التعامل مع سلامة الذكاء الاصطناعي، محذراً من أن التركيز على سرعة التطوير وإطلاق الأنظمة قد يزيد مخاطر الإخفاقات.

وقال روبنسون، الذي استقال من الشركة مؤخراً، إن شركات الذكاء الاصطناعي، ومن بينها أوبن إيه آي، لا تتعامل بالقدر الكافي من الحذر مع المخاطر، داعياً إلى إعطاء الخبرة والبحوث المتعلقة بالسلامة أولوية أكبر قبل تطوير أنظمة تتمتع بقدرات أكثر تقدماً.

«انتهى عصر التجربة والخطأ»

وفي مقال نشرته مجلة «ذي أتلانتيك» السبت 3 أكتوبر بعنوان «استقلت من أوبن إيه آي لأن ثقافتها معيبة»، قال روبنسون إن عصر التجربة والخطأ انتهى، مشدداً على أن أنظمة الذكاء الاصطناعي المتقدمة تحتاج إلى إجراءات وقائية تقترب من تلك المعمول بها في قطاعات مثل الطاقة النووية والطيران.

وأضاف أن أوبن إيه آي تعتمد بدرجة كبيرة على ما تسميه «النشر التكراري»، حيث تطلق الأنظمة ثم تعزز إجراءات الحماية عندما تظهر المشكلات.

وتأتي تصريحات روبنسون في ظل جدل متزايد داخل قطاع الذكاء الاصطناعي بشأن ما إذا كانت الشركات تمضي بسرعة أكبر من اللازم في تطوير أنظمة ذات قدرات متزايدة.

جدل حول وتيرة التطوير

واجهت أوبن إيه آي ومنافستها أنثروبيك تدقيقاً مكثفاً عقب وقائع لم تنجح فيها ضوابط السلامة، أو تصرفت خلالها أنظمة تجريبية بطرق غير متوقعة.

وقال روبنسون، الذي أمضى ثلاث سنوات ونصف السنة في أوبن إيه آي، إنه ساعد في صياغة إطار عمل التأهب الخاص بالشركة، كما أشرف على تقارير السلامة في 12 عملية إطلاق لنماذج رائدة.

وأضاف أنه مع انتقال الشركة من عملية إطلاق إلى أخرى، فإنها لا تحقق مستوى العناية الذي يعتقد أنه ضروري.

أوبن إيه آي ترد

من جانبها، قالت أوبن إيه آي في بيان على لسان متحدث باسمها إنها تحرص على ألا تتجاوز قدرات نماذجها المستوى الذي يمكن للشركة إدارته أو تأمينه بأمان.

وأضافت الشركة أنها توقف التدريب مؤقتاً أو تؤجل إطلاق النماذج عندما تكون هناك حاجة إلى إبطاء وتيرة العمل.

وحذر روبنسون من أن قدرات الذكاء الاصطناعي تتقدم بوتيرة أسرع من فهم الباحثين لمفهوم «المواءمة»، وهو المجال الذي يركز على ضمان عمل أنظمة الذكاء الاصطناعي بما يتوافق مع أهداف البشر وقيمهم.