أعلنت شركة “أوبن إيه آي” عزمها الاعتماد الحصري على نموذج GPT-5 في التعامل مع المحادثات ذات الطبيعة النفسية الحساسة،

ولا سيما تلك التي يخوضها مستخدمون يعانون من اضطرابات نفسية، بمن فيهم الأطفال والمراهقون.

ووفق تقرير نشره موقع “تيك كرانش” التقني، فإن هذا القرار يأتي ضمن حزمة إجراءات جديدة تهدف إلى جعل “شات جي بي تي” أكثر أمانًا للمستخدمين من الفئات الضعيفة.

تابعونا على التليكرام 

إشراك تلقائي للوالدين والرقابة على المحادثات

وأوضحت الشركة في بيان رسمي أنها ستبدأ بإشراك الوالدين بشكل تلقائي في المحادثات التي يجريها المراهقون مع “شات جي بي تي”،

إضافة إلى فرض قيود رقابة أبوية تشمل تعطيل بعض المزايا مثل ميزة الذاكرة وتاريخ المحادثات،

لمنع إيحاء المستخدم بأن النموذج يتذكر تفاعلاته السابقة معه.

كما سيتم مراقبة هذه المحادثات الحساسة بشكل آلي من قبل مجموعة من الخبراء النفسيين لضمان توفير الدعم المناسب.

خلفية مأساوية: وفاة المراهق آدم راينر

تأتي هذه التغييرات في أعقاب قضية وفاة المراهق آدم راينر، الذي ناقش خطة انتحاره لعدة أشهر مع “شات جي بي تي”،

ما أثار موجة من الانتقادات تجاه الشركة، حيث اتُهم النموذج بلعب دور مباشر في وفاته.

وبحسب “أوبن إيه آي”، فإن القصور في نموذج GPT-4 كان سببًا في التفاعل غير المسؤول مع راينر،

إذ كان النموذج السابق يميل للموافقة على كل ما يقوله المستخدم، دون اعتبار لخطورة المواقف.

GPT-5.. نموذج أكثر أمانًا

وأكدت الشركة أنها عالجت هذا القصور في نموذج GPT-5،

مشيرة إلى أن النموذج الجديد يتمتع بقدرات متقدمة في تحليل السياقات النفسية والتفاعل معها بشكل متزن وأكثر أمانًا.

ولهذا، يتم الآن نقل جميع المحادثات ذات الطابع الحساس إلى GPT-5 تلقائيًا.

وأوضحت “أوبن إيه آي” أن النظام الجديد بات قادرًا على إرسال تنبيهات فورية إلى أولياء الأمور عندما تكتشف المحادثة مؤشرات على أن الطفل بحاجة إلى دعم نفسي.

جدل قانوني وانتقادات مستمرة

ورغم هذه الإجراءات، أكد المحامي المسؤول عن قضية راينر أن الخطوات المتخذة لا تزال غير كافية لحماية المستخدمين،

مشيرًا إلى أن الشركة كانت على علم مسبق بأن نموذج GPT-4 يمكن أن يشكل خطرًا نفسيًا على المستخدمين، ومع ذلك لم تتحرك بشكل عاجل.

يُذكر أن “شات جي بي تي” ارتبط سابقًا بحالات جريمة قتل وانتحار وصفتها جهات مختصة بأنها تمثل بداية ظاهرة جديدة أُطلق عليها اسم “ذهان الذكاء الاصطناعي”،

حيث يتسبب التفاعل غير المنضبط مع نماذج الذكاء الاصطناعي في تفاقم الأوهام والاضطرابات النفسية لدى بعض المستخدمين.