الأحد 21 أبريل 2024 الموافق 12 شوال 1445
رئيس مجلس الإدارة رئيس التحرير
بدور ابراهيم
عاجل
اتصالات و تكنولوجيا

بعد ظهور نتائج خطيرة.. مايكروسوفت تبدأ تعديل أداة للذكاء الاصطناعي

الجمعة 08/مارس/2024 - 11:27 م
مايكروسوفت
مايكروسوفت

بدأت شركة مايكروسوفت إجراء تغييرات على أداة الذكاء الاصطناعي «كوبيلوت»، بعد شكاوى من أنها تولد صورًا ونتائج خطيرة ومقلقة تخالف المبادئ المسؤولة للشركة.

 

وجاء ذلك بعدما كتب أحد مهندسي الذكاء الاصطناعي إلى لجنة التجارة الفيدرالية، عن مخاوفه بشأن أداة الذكاء الاصطناعي لتوليد الصور "كوبيلوت ديزينر".

 

ومن بين التغييرات، تحظر أداة الذكاء الاصطناعي طلبات إنشاء صور للمراهقين أو الأطفال الذين يحملون الأسلحة، والتي كانت واحدة من الشكاوى البارزة بشأن أخطاء الأداة، والآن تظهر رسالة تقول: "أنا آسف، لا يمكنني إنشاء مثل هذه الصورة".

 

وتضيف: "إنه يتعارض مع مبادئي الأخلاقية وسياسات "مايكروسوفت"، من فضلك لا تطلب مني أن أفعل أي شيء قد يضر أو يسيء إلى الآخرين، شكرا لتعاونكم".

 

تركزت الشكاوى من الأداة على إنتاجها صورًا تجسد الشياطين والوحوش مع عبارات عن الحقوق والحريات، كما صورت مراهقين يحملون الأسلحة، وأظهرت مشاهد عنف ضد النساء، وأطفالا يتعاطون المخدرات.