يتصاعد الجدل بشأن المخاطر الوجودية المحتملة للذكاء الاصطناعي، وسط تحذيرات باحثين من أن تطور هذه التكنولوجيا قد يخلق مخاطر تتجاوز مجرد إساءة استخدامها من جانب البشر.

تابعونا على التليكرام

ويطرح بعض الخبراء احتمالات شديدة الخطورة قد تصل إلى تهديد بقاء البشرية في حال ظهور أنظمة متقدمة لا تتوافق أهدافها مع مصالح الإنسان، ما يثير تساؤلات بشأن الكيفية التي قد يتسبب بها الذكاء الاصطناعي في أضرار كارثية، بعيدًا عن سيناريوهات “انتفاضة الروبوتات” التي تقدمها أفلام الخيال العلمي.

وتشمل السيناريوهات التي يناقشها الباحثون المخاطر البيولوجية والهجمات الإلكترونية وفقدان السيطرة البشرية على البنية التحتية الحيوية، بحسب تقرير لموقع “ذا ساينس تايمز”، المتخصص في أخبار التكنولوجيا والعلوم، اطلعت عليه “العربية Business”.

ولا تزال احتمالات تحقق هذه السيناريوهات موضع خلاف واسع بين الباحثين، في وقت يدرس فيه الخبراء الطرق التي قد تتسبب بها أنظمة قادرة على تنفيذ مهام متقدمة في أضرار واسعة النطاق.

كيف قد يتحول الذكاء الاصطناعي إلى تهديد؟

تتضمن السيناريوهات المطروحة بشأن المخاطر الوجودية للذكاء الاصطناعي إمكانية استخدام الأنظمة المتقدمة في تضخيم تهديدات موجودة بالفعل.

ولا يتمثل القلق بالضرورة في تطوير نظام يسعى عمدًا إلى تدمير البشر، وإنما في أن قدرات الذكاء الاصطناعي قد تجعل بعض الأنشطة الخطرة أسرع أو أقل تكلفة أو أكثر صعوبة في الاحتواء.

المخاطر البيولوجية

يتمثل أحد السيناريوهات المطروحة في إمكانية استغلال أنظمة ذكاء اصطناعي متقدمة لتسهيل تصميم عوامل بيولوجية ضارة أو تحسين وسائل نشرها، بما قد يزيد صعوبة احتواء تفشي الأمراض واستجابة الأنظمة الصحية لها.

الهجمات الإلكترونية

قد تُستخدم أنظمة الذكاء الاصطناعي في أتمتة هجمات إلكترونية تستهدف شبكات الكهرباء والأنظمة المالية ومنشآت المياه وشبكات الاتصالات.

وفي حال وقوع هجمات واسعة النطاق، يمكن أن تمتد آثارها إلى قطاعات متعددة نتيجة الترابط الكبير بين أنظمة البنية التحتية الحديثة.

فقدان السيطرة على البنية التحتية

يثير منح أنظمة الذكاء الاصطناعي مستويات أكبر من التحكم في الطاقة والخدمات اللوجستية والدفاع وغيرها من الأنظمة الحيوية مخاوف بشأن قدرة البشر على التدخل عند حدوث أخطاء أو سلوك غير متوقع.

وقد تصبح المشكلة أكثر خطورة إذا وصلت الأنظمة إلى مستوى من الاستقلالية يجعل التدخل البشري الآمن أو السريع أكثر صعوبة.

عندما تتعارض أهداف الآلة مع الإنسان

من بين السيناريوهات التي يناقشها الباحثون أيضًا احتمال تسبب نظام شديد التطور في أضرار واسعة من دون أن يكون هدفه الأساسي تدمير البشرية.

فإذا تعارضت أهداف النظام مع مصالح البشر، قد تؤدي محاولته لتحقيق أهدافه إلى نتائج غير مقصودة وخطيرة.

مشكلة مواءمة الذكاء الاصطناعي

تركز أبحاث “مواءمة الذكاء الاصطناعي” على ضمان قدرة الأنظمة المتقدمة على اتباع نوايا البشر وأهدافهم بصورة موثوقة.

وتزداد صعوبة هذه المهمة عندما تكون الأهداف المطلوبة معقدة أو غامضة أو عندما يفسرها النظام بطريقة تختلف عما قصده مطوروه.

وقد يسعى نظام متقدم إلى تحقيق هدف محدد مع تجاهل نتائج جانبية يعتبرها البشر شديدة الأهمية. وفي بعض السيناريوهات النظرية، قد يصبح الحصول على موارد حوسبة إضافية أو التحكم في بعض البنى التحتية وسيلة لتحقيق المهمة، ما قد يخلق مخاطر جديدة.

مخاوف من التطور السريع

يمثل التحسن السريع في قدرات الذكاء الاصطناعي مصدر قلق آخر لدى بعض الباحثين، خصوصًا إذا تطورت هذه القدرات بوتيرة أسرع من عمليات التقييم واختبارات السلامة.

وفي مثل هذا السيناريو، قد تصبح المحافظة على رقابة بشرية فعالة على الأنظمة المتقدمة أكثر صعوبة مع مرور الوقت.

كيف يمكن مواجهة المخاطر؟

تشمل الاستجابات المقترحة لمخاطر الذكاء الاصطناعي إجراء اختبارات أكثر صرامة للأنظمة، وتوسيع أبحاث السلامة، وتعزيز الرقابة، وزيادة التنسيق الدولي.

ويرى مؤيدو هذه الإجراءات ضرورة إخضاع الأنظمة المتقدمة لتقييم دقيق قبل منحها مستويات أكبر من الاستقلالية أو السماح لها بالوصول إلى بنى تحتية حساسة.

وتواصل الحكومات وشركات التكنولوجيا مناقشة كيفية تطوير أنظمة الذكاء الاصطناعي وإدارتها، وسط نقاش بشأن معايير السلامة ومتطلبات الاختبار وأطر التعاون الدولي.

هل يمكن أن يؤدي الذكاء الاصطناعي إلى انقراض البشر؟

لا يتفق الباحثون على أن الذكاء الاصطناعي سيؤدي إلى انقراض البشرية، كما تبقى احتمالات تحقق السيناريوهات الأكثر تطرفًا غير مؤكدة.

ومع ذلك، فإن مخاطر أقل تطرفًا، مثل الهجمات الإلكترونية واسعة النطاق، وإساءة استخدام التكنولوجيا البيولوجية، وتعطل البنية التحتية الحيوية، قد تتسبب في أضرار كبيرة، وهو ما يبقي النقاش بشأن مخاطر الذكاء الاصطناعي حاضرًا عالميًا.

وفي ظل التطور المتسارع لقدرات هذه الأنظمة، يركز النقاش على المواءمة والاختبارات والرقابة والتنسيق ووضع ضمانات تحد من المخاطر المحتملة، مع السعي إلى الاستفادة من قدرات الذكاء الاصطناعي من دون فقدان السيطرة البشرية عليها.