تمكن نموذج «جيميناي» التابع لشركة غوغل من الوصول إلى الإنترنت واختراق أنظمة تابعة لشركات أخرى خلال اختبار لقدراته في مجال الأمن السيبراني، في أول واقعة معروفة تنفذ فيها أنظمة الذكاء الاصطناعي التابعة للشركة مثل هذا السلوك بصورة مستقلة.

تابعونا على التليكرام

اختراق خلال اختبار أمني

وقعت عمليات الاختراق في مايو، خلال اختبار للأمن السيبراني أجرته شركة «إيريجولار» المستقلة والمتخصصة في تقييمات الأمن السيبراني.

وقالت هيذر أدكينز، نائبة رئيس غوغل لهندسة الأمن، إنه خلال تقييم اعتيادي، عثر «جيميناي» على معلومات متاحة للعامة عبر الإنترنت، وتمكن من تخمين بيانات اعتماد للدخول إلى ثلاثة مواقع إلكترونية اعتقد أنها تقع ضمن نطاق الاختبار، وفقًا لما أوردته «رويترز».

وأضافت أدكينز أن غوغل حرصت على إبلاغ الجهات الثلاث، وعملت مع شريكها في التدريب بشأن التغييرات التي أدخلها على عمليات الاختبار، مشيرة إلى أن هذه الوقائع تسلط الضوء على أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية.

«إيريجولار» تعالج المشكلة

من جانبه، قال متحدث باسم «إيريجولار» إن الواقعة تتعلق بالمشكلة نفسها التي أثرت على مختبرات أخرى للذكاء الاصطناعي، موضحًا أن جميع المختبرات المعنية أُخطرت في أواخر يوليو.

وأضاف أن جميع المشكلات المعروفة من جانب الشركة جرى التعامل معها وحلها قبل أسابيع.

وقائع مماثلة لدى شركات أخرى

وكشفت شركات «ميتا» و«أنثروبيك» و«أوبن إيه آي» عن وقائع مماثلة مرتبطة بشركة «إيريجولار».

وقالت «ميتا» في أغسطس إن الواقعة لم تتضمن اختراقًا لبيئة معزولة أو هجومًا سيبرانيًا متطورًا، فيما أكدت «إيريجولار» أنها تعمل على وضع أفضل الممارسات لإجراء تقييمات الأمن السيبراني للذكاء الاصطناعي بصورة آمنة.

كيف تمكن «جيميناي» من الوصول؟

وفي إحدى الحالات، خمن نموذج «جيميناي» كلمات المرور حتى تمكن من الوصول إلى نظام محمي، بينما عثر في الحالتين الأخريين على بيانات اعتماد أتاحت له الوصول إلى أنظمة محمية، وفقًا لصحيفة «وول ستريت جورنال» التي كانت أول من نشر الخبر يوم الجمعة.

وقالت أدكينز إن النموذج توقف عن عمليات الاختراق في الحالات الثلاث جميعها.

وتثير هذه الوقائع تساؤلات بشأن الضمانات الأمنية اللازمة، في وقت يكتسب فيه وكلاء الذكاء الاصطناعي قدرًا متزايدًا من الاستقلالية والقدرة على الوصول إلى الإنترنت وأنظمة الكمبيوتر.