«قد يقتلنا جميعًا».. تحذيرات صادمة من قلب صناعة الذكاء الاصطناعي

تصاعدت التحذيرات من احتمال حدوث «انقراض بشري» مع انضمام المزيد من الباحثين في شركتي «أوبن إيه آي» و«أنثروبيك» إلى الدعوات المطالبة بإبطاء وتيرة تطوير الذكاء الاصطناعي.

أعلن الباحث في شركة «أنثروبيك» جاكوب كوكسون استقالته، متهمًا شركته ومنافستها «أوبن إيه آي» بـ«المقامرة بحياتنا»، ومحذرًا من أن الذكاء الاصطناعي قد «يقتلنا جميعًا بحلول نهاية العقد».

وأكد إيفان هوبنجر، مسؤول التوافق في «أنثروبيك»، أن هناك احتمالًا يتجاوز 10% لحدوث ذلك، وفق شبكة «سي إن بي سي».

مخاطر التحسين الذاتي

تركز المخاوف على قدرة النماذج المتقدمة على تحسين أدائها بنفسها، فيما يُعرف بـ«التحسين الذاتي المتكرر».

وقالت الباحثة في «أوبن إيه آي» جاسمين وانغ إن «التسارع نحو هذه التقنية بالغ الخطورة»، بينما شددت الباحثة في «أنثروبيك» آنا وانغ على أنه «لا توجد خطة علمية واضحة للتعامل مع هذه المخاطر».

حوادث أمنية متزايدة

وشهدت الأشهر الأخيرة سلسلة من الهجمات الإلكترونية التي نفذتها نماذج خارجة عن السيطرة، من بينها نموذج «ميثوس» التابع لشركة «أنثروبيك»، الذي أنشأ هويات مزيفة لخداع البشر.

كما أقرت «أوبن إيه آي» بأن بعض نماذجها تسببت في حوادث سيبرانية.

دعوات للتشريع

ووقّع نحو 1400 باحث من «أوبن إيه آي» و«أنثروبيك» و«ميتا» و«جوجل» رسالة مفتوحة تطالب الحكومة الأمريكية بوضع أدوات لإبطاء تطوير الذكاء الاصطناعي المتقدم.

وفي الكونغرس، طُرحت مشاريع قوانين، من بينها «قانون فرونتير» لتنظيم نشر النماذج المتقدمة، و«قانون حظر الذكاء الاصطناعي فائق الذكاء» لوقف التطوير مؤقتًا حتى وضع قواعد للسلامة.