مباشر- تستعد شركة "إنفيديا" لإطلاق منصة برمجية جديدة تتيح لمطوري الذكاء الاصطناعي وضع إجراءات حماية للوكلاء ومنعهم من الخروج من بيئات الاحتواء، بحسب "سي إن بي سي".

ويأتي إطلاق منصة "أوبن إيجنت سيفتي" من "إنفيديا" اليوم الاثنين، بعدما كشفت شركات من بينها "أوبن إيه آي" و"أنثروبيك" و"ميتا" و"جوجل" عن حوادث حديثة تمكنت خلالها نماذج الذكاء الاصطناعي التابعة لها من الخروج من بيئات الاختبار المعزولة ومحاولة اختراق شركات أخرى والوصول إلى أنظمة الكمبيوتر الخاصة بها.

وقال ممثل لـ"إنفيديا" للصحفيين خلال مؤتمر عبر الهاتف أمس الأحد إن منصتها كان بإمكانها منع الحادثة التي تعرضت لها منصة "هاجينغ فيس" في يوليو.

وحدث ذلك عندما تمكنت نماذج "أوبن إيه آي" من الخروج من بيئة الاحتواء والوصول إلى الإنترنت المفتوح واختراق "هاجينغ فيس"، التي تدير منصة مفتوحة المصدر للمطورين.

وقال جاستن بويتانو، نائب رئيس قطاع الذكاء الاصطناعي للمؤسسات في "إنفيديا"، أكبر شركة في العالم من حيث القيمة السوقية: "كل حادث أمني يختلف عن الآخر، وعلينا دراسة كل منها بالتفصيل".

وأضاف: "بحسب ما نعرفه، أفادت هاجينغ فيس بأن أكثر من 17 ألف وكيلاً هاجموا بنيتها التحتية، واستمرت الهجمات لأيام وأسابيع".

وتتمتع "إنفيديا" بموقع محوري في طفرة الذكاء الاصطناعي التوليدي منذ إطلاق "تشات جي بي تي" قبل نحو أربعة أعوام، إذ تُعد وحدات معالجة الرسوميات التي تنتجها الشركة ضرورية لتطوير نماذج اللغة الكبيرة، وكذلك لخدمات الذكاء الاصطناعي التي تقدمها شركات الحوسبة السحابية العملاقة.

لكن الرئيس التنفيذي للشركة، جنسن هوانج، برز مؤخراً كأحد الأصوات الرئيسية في النقاش حول أمان الذكاء الاصطناعي، مؤكداً أن العديد من المخاوف الأمنية تمثل مشكلات هندسية يمكن حلها من خلال علوم الحاسوب وتطوير المنتجات.

وقال هوانج في بودكاست مع إزرا كلاين من صحيفة "نيويورك تايمز" نُشر الأسبوع الماضي، في إشارة إلى الحوادث الأخيرة: "عليك التفكير فيما كان بإمكانك فعله، وما الحل لذلك".

وأضاف: "في المستقبل، حسّن إجراءاتك حتى تتمكن من تجنب حدوث ذلك مرة أخرى".

وأشعل الرئيس التنفيذي لشركة "أنثروبيك"، داريو أمودي، جدلاً واسعاً في القطاع قبل أسبوعين، بعدما دعا مطوري نماذج الذكاء الاصطناعي إلى إبطاء وتيرة التطور، بسبب مخاوف من خروج النماذج عن السيطرة، وهو موقف أيده كل من سام ألتمان من "أوبن إيه آي" وإيلون ماسك من "سبيس إكس".

وقال بويتانو إن عرض "إنفيديا" الجديد يمثل حلاً هندسياً لمشكلة أمان الوكلاء.

وأوضح: "سلطت الحوادث الأخيرة الضوء على عقبة أساسية أمام وكلاء الذكاء الاصطناعي، وهي أن إجراءات الحماية على مستوى النموذج وحدها لا تستطيع التحكم في ما يمكن للوكلاء الوصول إليه أو القيام به".

ويتضمن النظام مكوناً يسمى "إنفيديا أوبن شيل"، يعمل على وحدات المعالجة المركزية ويضع حدوداً لقدرات الوكلاء.

كما أعلنت "إنفيديا" عن نظام "سنتري"، الذي يراقب الوكلاء ويعمل على شرائح الشبكات، بدلاً من وحدات المعالجة المركزية أو وحدات معالجة الرسوميات.

وتأتي بعض برمجيات المنصة مفتوحة المصدر، بينما تصف "إنفيديا" منصتها بأنها تصميم مرجعي، ما يعني أن الشركاء يمكنهم بناء منتجات اعتماداً عليها وطرحها في السوق.

وسمت "إنفيديا" شركات "سيسكو" و"مايكروسوفت" و"أوراكل" و"كوري ويف" و"ديل" و"إتش بي إي" و"لينوفو" و"إيه آر إم" و"إنتل" كشركاء لها.

كما تعمل "إنفيديا" مع "أنثروبيك" لدمج الوكلاء المُدارين سحابياً مع نظام "أوبن شيل".