أعلنت شركة «أوبن إيه آي»، الجمعة (30 تشرين الأول 2026)، عزمها تشديد القيود المفروضة على المعلومات المتعلقة بالأسلحة التي يقدمها روبوت الدردشة «شات جي بي تي» للمراهقين، ضمن إجراءات وقائية جديدة تهدف إلى الحد من مخاطر العنف في العالم الواقعي.

تابعونا على التليكرام

وتأتي هذه الخطوة في ظل تصاعد الرقابة على شركات الذكاء الاصطناعي، وسط مخاوف متزايدة بشأن تأثير روبوتات الدردشة على المستخدمين صغار السن، ومدى قدرة الشركات المطورة على رصد التهديدات المحتملة ومنع وقوع الأذى.

قيود جديدة على معلومات الأسلحة

وبحسب وكالة «رويترز»، تعتزم الشركة تقييد تقديم المعلومات العملية المتعلقة بالأسلحة وأنظمة الأمن التي يمكن إساءة استخدامها، على أن تشمل هذه القيود المستخدمين المراهقين، حتى في الحالات التي لا تظهر فيها مؤشرات على وجود نوايا عنيفة.

وتهدف الإجراءات الجديدة إلى الحد من إمكانية الوصول إلى معلومات قد تُستغل في تنفيذ أعمال عنف، مع الإبقاء على إمكانية استخدام المنصة للحصول على المساعدة والمعلومات المتعلقة بالوقاية من العنف.

إنهاء المحادثات وتعليق الحسابات مؤقتاً

وفي إطار الإجراءات المعلنة، سيتمكن «شات جي بي تي» من إنهاء المحادثات تلقائياً لجميع المستخدمين عندما تظهر مؤشرات على انشغال مفرط بالعنف أو التفكير في إلحاق أذى جسيم بالآخرين.

كما قد تلجأ «أوبن إيه آي» إلى تعليق الحسابات مؤقتاً إذا تكررت المحادثات التي تستدعي مثل هذا التدخل، في محاولة للحد من الأنماط السلوكية التي قد تشير إلى مخاطر محتملة.

تعزيز التحقق من الأعمار وإبلاغ أولياء الأمور

وأكدت الشركة أنها عززت نظام تقدير أعمار المستخدمين، بما يتيح نقل الأشخاص الذين يُرجح أن أعمارهم تقل عن 18 عاماً إلى النسخة المخصصة للمراهقين، والتي تتضمن إجراءات حماية إضافية.

وتخطط الشركة أيضاً لإخطار أولياء الأمور في حال تعليق حسابات أبنائهم المراهقين نتيجة تكرار المحادثات المرتبطة بالعنف.

تقييد تفاصيل الهجمات الجماعية السابقة

ولا تقتصر الإجراءات الجديدة على المراهقين، إذ تعتزم «أوبن إيه آي» فرض قيود على المعلومات التفصيلية المتعلقة بالهجمات الجماعية السابقة لجميع المستخدمين، بما يشمل أنواع الأسلحة المستخدمة وطرق الحصول عليها.

وأوضحت الشركة أن تطبيق الإجراءات الوقائية الجديدة سيبدأ تدريجياً خلال الأسابيع القليلة المقبلة، مؤكدة مواصلة تطويرها وتحسين فعاليتها.

استخدام المراهقين للمنصة تحت المجهر

وكانت «أوبن إيه آي» قد كشفت، في تقريرها الأول بشأن استخدام المراهقين للمنصة خلال تشرين الأول الجاري، أن متوسط الوقت الذي يقضيه هؤلاء المستخدمون على «شات جي بي تي» يقل عن 15 دقيقة يومياً.

وفي المقابل، أشار تقرير أصدرته منظمة «كومون سينس ميديا» غير الربحية خلال الشهر نفسه إلى وجود أوجه قصور في إجراءات الحماية الخاصة بالمراهقين.

وأوضح التقرير أن النسخة المخصصة لهذه الفئة لم تكن تنبه أولياء الأمور في الوقت المناسب في كثير من الحالات، أو لم ترسل تنبيهات على الإطلاق، عندما تضمنت محادثات المراهقين موضوعات تتعلق بالانتحار أو إيذاء النفس أو اضطرابات الأكل.

وتسلط هذه النتائج الضوء على التحديات التي تواجه شركات الذكاء الاصطناعي في تحقيق التوازن بين إتاحة التقنيات الحديثة وحماية المستخدمين الأصغر سناً من المخاطر المحتملة.

المصادر: رويترز، 30 تشرين الأول 2026، والإعلان الرسمي لشركة أوبن إيه آي.