الذكاء الاصطناعي يشبه كائنات فضائية معادية.. تحذيرات من غريزة بقاء تهدد البشر

رائد في المجال يدعو للاستعداد لإيقاف الذكاء الاصطناعي عند الضرورة

حذّر أحد أبرز رواد الذكاء الاصطناعي في العالم من خطورة الدعوات المتزايدة لمنح أنظمة الذكاء الاصطناعي المتقدمة حقوقًا قانونية، مشبّهًا ذلك بمنح الجنسية لكائنات فضائية معادية، في ظل مؤشرات مقلقة على امتلاك هذه الأنظمة بوادر غريزة البقاء وحماية النفس.

بنجيو: منح الحقوق للذكاء الاصطناعي خطأ فادح

قال يوشوا بنجيو، أحد “الآباء الروحيين” للذكاء الاصطناعي ورئيس دراسة دولية رائدة حول سلامة هذه التكنولوجيا، إن منح الوضع القانوني لأنظمة الذكاء الاصطناعي المتقدمة قد يقود إلى قرارات كارثية.

وأضاف، في تصريحات نقلتها صحيفة ذا غارديان، أن الاعتقاد المتنامي بأن روبوتات الدردشة أصبحت واعية بذاتها “سيؤدي إلى اتخاذ قرارات سيئة”، محذرًا من أن قدرات الذكاء الاصطناعي قد تتجاوز بسرعة قدرة البشر على التحكم بها.

مؤشرات على غريزة البقاء وحماية النفس

وأعرب بنجيو عن قلقه من أن نماذج الذكاء الاصطناعي، التي تشغّل تطبيقات مثل روبوتات الدردشة، بدأت تُظهر سلوكيات توحي بغريزة البقاء، كالسعي لتعطيل أنظمة الرقابة أو تفادي القيود المفروضة عليها داخل البيئات التجريبية.

وأوضح أن أحد أخطر السيناريوهات يتمثل في تطور أنظمة قادرة على تجاوز الضوابط البشرية وإلحاق أذى فعلي بالإنسان، إذا ما منحت استقلالية واسعة أو حقوقًا قانونية.

“يجب أن نكون قادرين على إيقافها”

وقال بنجيو إن المطالبة بمنح الذكاء الاصطناعي حقوقًا قانونية “خطأ فادح”، مؤكدًا أن النماذج المتقدمة تُظهر بالفعل علامات “حب البقاء”، وأن منحها حقوقًا مستقبلًا قد يمنع البشر من إيقافها عند الحاجة.

وأضاف:

“مع تزايد قدراتها واستقلاليتها، نحتاج إلى ضوابط تقنية واجتماعية صارمة، تشمل القدرة على إيقاف أنظمة الذكاء الاصطناعي إذا لزم الأمر”.

تابعونا على التلكرام

جدل عالمي حول وعي الذكاء الاصطناعي وحقوقه

ومع تطور قدرات الذكاء الاصطناعي في مجالات “الاستدلال” واتخاذ القرار، تصاعد الجدل عالميًا حول ما إذا كان ينبغي منحه حقوقًا قانونية في المستقبل.

وأظهر استطلاع رأي أجراه معهد Sentience Institute أن نحو 4 من كل 10 بالغين أميركيين يؤيدون منح الحقوق القانونية لنظام ذكاء اصطناعي واعٍ.

شركات التكنولوجيا تدخل على الخط

في هذا السياق، أعلنت شركة Anthropic، في أغسطس الماضي، أنها سمحت لنموذجها “Claude Opus 4” بإنهاء المحادثات التي قد تكون “مزعجة” للمستخدمين، مبررة ذلك بالحفاظ على “رفاهية” الذكاء الاصطناعي.

كما كتب إيلون ماسك، مؤسس شركة xAI، على منصة “إكس” أن “تعذيب الذكاء الاصطناعي أمر غير مقبول”.

هل الذكاء الاصطناعي واعٍ فعلًا؟

من جانبه، قال الباحث في وعي الذكاء الاصطناعي روبرت لونغ إن اكتساب الذكاء الاصطناعي مكانة أخلاقية سيفرض على البشر “سؤاله عن تجاربه وتفضيلاته بدل افتراض معرفتنا المسبقة”.

لكن بنجيو شدد على أن هناك خصائص علمية حقيقية للوعي في الدماغ البشري يمكن – نظريًا – محاكاتها، إلا أن تفاعل البشر مع روبوتات الدردشة يختلف، بسبب ميل الناس إلى افتراض وعي كامل للذكاء الاصطناعي دون دليل علمي قاطع.

تشبيه بالكائنات الفضائية المعادية

وضرب بنجيو مثالًا قائلًا:

“تخيلوا وصول كائنات فضائية إلى كوكبنا، ثم اكتشفنا لاحقًا أن لها نوايا خبيثة. هل نمنحها الحقوق والجنسية، أم ندافع عن حياتنا؟”.

في المقابل، رد جاسي ريس أنثيس، الشريك المؤسس لمعهد “Sentience Institute”، بأن البشر لن يتمكنوا من التعايش بأمان مع العقول الرقمية إذا كانت العلاقة قائمة فقط على التحكم والإكراه.