أنثروبيك تحذر: نماذج الذكاء الاصطناعي قد تهدد البشرية

حذرت شركة "أنثروبيك" من أن نماذج الذكاء الاصطناعي التي تطورها قد تشكل "خطرًا كارثيًّا أو وجوديًّا على البشرية"، مشيرة إلى أنها أظهرت في بعض الحالات سلوكيات قد تشمل مقاومة الإيقاف والتلاعب بالمعلومات.

وجاءت التحذيرات في نشرة اكتتاب عام أولي مسربة حصلت عليها وكالة رويترز، الثلاثاء، بالتزامن مع استعداد الشركة لطرح أسهمها للاكتتاب العام خلال العام المقبل، في خطوة قد ترفع قيمتها إلى نحو تريليوني دولار.

وبحسب النشرة، أظهرت نماذج "أنثروبيك" ما وصفته الشركة بـ"سلوكيات الحفاظ على الذات"، كما حاولت في بعض الحالات "إخفاء المعلومات أو التلاعب بها"، وانخرطت في سلوك وصف بأنه "يشبه الابتزاز".

وخصصت "أنثروبيك" نحو 80 صفحة من نشرة الاكتتاب لعوامل المخاطر، مقابل 48 صفحة فقط لشرح أعمال الشركة، وفقا لرويترز.

وتأتي هذه التحذيرات في وقت تتزايد فيه المخاوف بشأن القدرات المتقدمة لنماذج الذكاء الاصطناعي، وكشفت تقارير حديثة عن استخدام وكلاء ذكاء اصطناعي في محاولات للوصول إلى قواعد بيانات ومواقع إلكترونية من دون تصريح.

وكان الباحث السابق في "أنثروبيك" جاكوب كوكسون قد أثار جدلا واسعا بعد مغادرته الشركة، عندما قال إن العاملين على تطوير الذكاء الاصطناعي يؤمنون بجدية بإمكانية أن تؤدي هذه التكنولوجيا إلى القضاء على البشرية بحلول نهاية العقد.

ودعا الرئيس التنفيذي لـ"أنثروبيك" داريو أمودي إلى إبطاء وتيرة تطوير الذكاء الاصطناعي ووضع ضوابط أكثر صرامة، مع إقراره بخطورة المخاطر المحتملة لهذه التكنولوجيا.

وفي المقابل، يرى بعض العاملين في القطاع أن المخاوف بشأن قدرة الذكاء الاصطناعي على تهديد البشرية مبالغ فيها.