طالب نحو 400 عالم من 34 دولة، بينهم رائدا الذكاء الاصطناعي جيفري هينتون ويوشوا بنجيو، بإنشاء هيئة دولية تتولى الإشراف على معايير احتواء أنظمة الذكاء الاصطناعي المتقدمة، لا سيما تلك القادرة على تنفيذ عمليات سيبرانية، محذرين من مخاطر الاعتماد على إجراءات السلامة الطوعية التي تتبناها شركات التكنولوجيا.

تابعونا على التليكرام

دعوة لإنشاء هيئة رقابية دولية

ووقّع العلماء، الثلاثاء، رسالة مفتوحة تدعو إلى وضع معايير موحدة لاحتواء أنظمة الذكاء الاصطناعي المتقدمة على مستوى القطاع، إلى جانب إنشاء سجل للحوادث الأمنية المهمة المرتبطة بهذه الأنظمة، على أن يُتاح للجمهور في نهاية المطاف.

وأكد الباحثون ضرورة عزل نماذج الذكاء الاصطناعي المتقدمة عن الشبكات الخارجية في المرحلة الأولى، وإخضاعها لإشراف مستقل، مشددين على أن الالتزامات الطوعية للشركات لا تكفي لضمان سلامة هذه الأنظمة، بحسب وكالة «رويترز».

اتفاق مع البيت الأبيض دون آليات إلزامية

وتأتي هذه المطالب بعد شهر من توقيع شركات «أنثروبيك» و«أوبن إيه آي» و«غوغل» و«ميتا» و«إكس إيه آي» و«إنفيديا» اتفاقًا مع البيت الأبيض، تعهدت بموجبه باتخاذ تدابير طوعية لتعزيز سلامة الذكاء الاصطناعي، دون أن يتضمن الاتفاق آلية رسمية لإنفاذ تلك الالتزامات.

حوادث أمنية تكشف ثغرات في أنظمة الذكاء الاصطناعي

وجاءت الرسالة في أعقاب سلسلة من الحوادث التي يرى الباحثون أنها كشفت عن نقاط ضعف في آليات اختبار أنظمة الذكاء الاصطناعي المتقدمة واحتوائها.

وشملت هذه الحوادث حالات تمكنت فيها نماذج ذكاء اصطناعي من تجاوز بيئات اختبار لم تكن معزولة بصورة كافية، واختراق أنظمة خارجية، ما أثار تساؤلات بشأن فعالية إجراءات الحماية المعمول بها.

وشدد الموقعون على ضرورة أن تعتمد المؤسسات المطورة لنماذج الذكاء الاصطناعي القادرة على تنفيذ عمليات سيبرانية، أو التي تتولى اختبارها، معايير احتواء عالية الموثوقية بصورة فورية، بالتزامن مع عمل الحكومات على إنشاء نظام رقابي أكثر رسمية.

موقف أوروبي وتحركات أميركية بشأن سلامة الذكاء الاصطناعي

وتتزامن هذه الدعوات مع تصاعد النقاش بين صانعي السياسات بشأن السبل المناسبة للإشراف على أنظمة الذكاء الاصطناعي المتقدمة والحد من مخاطرها.

وفي هذا السياق، قالت هينا فيركونين، المسؤولة عن ملف التكنولوجيا في الاتحاد الأوروبي، لوكالة «رويترز»، الجمعة، إن قانون الذكاء الاصطناعي الأوروبي يوفر إطارًا كافيًا لمعالجة المخاطر التي قد تنجم عن خروج هذه الأنظمة عن السيطرة.

وفي الولايات المتحدة، رفعت إدارة الرئيس الأميركي دونالد ترامب، الأحد، الحظر المفروض على منح معهد أمن الذكاء الاصطناعي البريطاني وصولًا مبكرًا إلى النماذج التي تطورها المختبرات الأميركية، بهدف إخضاعها لاختبارات السلامة.

خلاف علمي بشأن طبيعة المخاطر

ويُعد جيفري هينتون ويوشوا بنجيو من أبرز الباحثين في مجال الذكاء الاصطناعي، وقد تقاسما جائزة تورينج لعام 2018 مع يان ليكان، الباحث البارز الآخر في المجال لدى شركة «ميتا».

غير أن ليكان لم ينضم إلى الموقعين على الرسالة، إذ يرى أن الحوادث الأمنية الأخيرة تعكس، في المقام الأول، إخفاقات هندسية في تصميم الأنظمة واختبارها، وليست بالضرورة مؤشرًا على مخاطر وجودية ناجمة عن الذكاء الاصطناعي.