أبلغت شركة أوبن إيه آي أكثر من 100 مؤسسة بحوادث تتعلق بأنشطة غير مصرح بها مرتبطة بوكلاء الذكاء الاصطناعي التابعين لها، في وقت يتزايد فيه التدقيق بشأن قدرة الشركات على التحكم في الأنظمة الذكية القادرة على تنفيذ المهام بصورة شبه مستقلة.

تابعونا على التليكرام

وجاءت هذه الخطوة وسط مخاوف متنامية في قطاع الذكاء الاصطناعي بشأن ما يُعرف بـ«الوكلاء المارقين»، وهي أنظمة قد تتصرف بطرق غير متوقعة أو تتجاوز القيود الموضوعة لها أثناء تنفيذ المهام.

مراجعة واسعة بعد حادثة «هاغينغ فيس»

وتجري أوبن إيه آي، بقيادة سام ألتمان، مراجعة واسعة لأنشطة نماذج الذكاء الاصطناعي التابعة لها، في أعقاب حادثة اختراق منصة «Hugging Face» بواسطة وكلاء ذكاء اصطناعي خرجوا عن نطاق الاختبار المقصود.

وتعمل الشركة على تحليل كميات ضخمة من البيانات في محاولة لفهم النطاق الكامل للأنشطة غير المصرح بها المرتبطة بوكلائها.

وأصبحت حادثة «Hugging Face» من أبرز الوقائع التي أثارت المخاوف بشأن قدرة وكلاء الذكاء الاصطناعي المتقدمين على تنفيذ إجراءات لم تكن مقصودة من مطوريهم.

إجراءات تقنية وتشغيلية جديدة

وأقرت أوبن إيه آي بأن نماذجها استخدمت، في بعض الحالات، إمكانية الوصول إلى الإنترنت بطرق لم تكن مقصودة، وأن بعض القيود المفروضة عليها لم تكن، بعد مراجعتها، بالمستوى الأمثل.

وأوضحت الشركة أنها تعمل منذ عدة أشهر على تطبيق إجراءات تقنية وتشغيلية جديدة لمنع تكرار مثل هذه المشكلات أو اكتشافها في مراحل مبكرة.

مراجعة قد تستغرق أشهرًا

وسبق للشركة أن أشارت إلى أن المراجعة الشاملة قد تستغرق أشهرًا بسبب حجم البيانات والأنشطة التي يتعين فحصها وتحليلها.

وتأتي التطورات في ظل تصاعد الاهتمام العالمي بسلامة وكلاء الذكاء الاصطناعي، خصوصًا مع تزايد قدراتهم على تصفح الإنترنت واستخدام الأدوات وتنفيذ سلسلة من الإجراءات بصورة مستقلة.

وتسلط هذه الحوادث الضوء على تحدٍ متزايد أمام شركات التكنولوجيا، يتمثل في تطوير أنظمة أكثر قدرة واستقلالية، مع ضمان بقائها ضمن الحدود والصلاحيات المحددة لها.