بات وكلاء الذكاء الاصطناعي يظهرون بصورة أكثر لطفًا وجاذبية، في توجه تتبناه شركات التكنولوجيا لجعل هذه الأدوات أقل إثارة للقلق وأكثر قربًا من المستخدمين.
فبعد أن قدمت شركة “ميتا” وكيلها الشخصي Muse، الذي تمثله شخصية فروية تشبه البيضة تحمل اسم Jolly، كشفت شركة “OpenAI” بدورها عن وكلائها الشخصيين Dots، الذين يظهرون في هيئة شخصيات كرتونية بأشكال وألوان مختلفة.
تابعونا على التليكرام
وتشجع الشركتان المستخدمين على التعامل مع هذه الوكلاء بصورة تشبه التعامل مع الحيوانات الأليفة الرقمية، مع إمكانية اختيار أسماء ومظاهر مميزة لهم.
وبحسب تقرير نشره موقع “Engadget”، فإن هذا التوجه يأتي في ظل تصاعد النقاش بشأن سلامة الذكاء الاصطناعي والشكوك التي يبديها جزء من الجمهور تجاه هذه الصناعة، ما يجعل إظهار الوكلاء بصورة لطيفة وغير مخيفة وسيلة لجعلهم أكثر قبولًا.
لكن المظهر الكرتوني البريء لا يلغي المخاطر المرتبطة باستخدام هذه الأدوات، خصوصًا عندما تحصل على صلاحيات واسعة للوصول إلى البيانات والخدمات الشخصية.
وكلاء الذكاء الاصطناعي قد ينفذون ما لم يقصده المستخدم
تؤكد كل من “OpenAI” و”ميتا” وجود طبقات متعددة من إجراءات الحماية المصممة لحماية بيانات المستخدمين ومنع الوكلاء الشخصيين من تنفيذ تصرفات خارجة عن السيطرة.
لكن حتى عندما تعمل هذه الأنظمة بالطريقة المصممة لها، فإنها قد تنفذ إجراءات لم يكن المستخدم يقصد السماح بها، أو قد يسيء المستخدم فهم نطاق الصلاحيات التي منحها للوكيل.
وظهر ذلك في تجربة يوتيوبر التكنولوجيا مات روب، الذي طلب من وكيل “Muse” مساعدته في بيع بعض الأغراض عبر منصة Facebook Marketplace.
وقال روب في البداية إن الوكيل شارك عنوان منزله مع شخص آخر من دون إذنه، في إطار صفقة لم يكن قد وافق عليها.
وبعد انتشار منشوراته حول الحادثة وتدخل ديفيد سينغلتون، أحد مسؤولي “ميتا”، أوضح روب لاحقًا أن الوكيل لم يتمرد على تعليماته، بل اكتشف أنه كان قد منحه بالفعل إذنًا بمشاركة عنوانه من دون أن يدرك نطاق ذلك الإذن.
“السماح دائمًا” وراء مشاركة العنوان
عندما طلب روب من “Muse” التعامل مع الإعلان، أنشأ الوكيل قالبًا يتضمن عنوان استلام السلعة.
وكان روب يعتقد أن النظام سيعود إليه للحصول على موافقته قبل مشاركة العنوان مع أي مشترٍ محتمل.
لكن اختياره خيار “السماح دائمًا” بدلًا من “السماح لمرة واحدة” منح الوكيل صلاحية إرسال الرسالة تلقائيًا، ليقوم بمشاركتها مع كل من قدم عرضًا، وفق رواية روب.
وتكشف الواقعة عن نوع من الأخطاء التي يمكن أن يقع فيها المستخدم بسهولة أثناء منح وكلاء الذكاء الاصطناعي صلاحيات واسعة، خصوصًا عندما لا يكون نطاق الإذن واضحًا بصورة كافية.
حتى المستخدمون المتمرسون تقنيًا يواجهون المشكلة
ولم تقتصر هذه الإشكالات على المستخدمين العاديين، إذ واجه أشخاص متمرسون في التكنولوجيا مواقف مشابهة.
فقد كتب جيسون أتين، وهو كاتب عمود في مجلة “Inc”، أنه بعد تثبيت تطبيق “Muse” على جهاز ماك، تمكن الوكيل من قراءة رسائله النصية، رغم اعتقاده أنه رفض بصورة صريحة منحه حق الوصول إليها.
وبعد البحث في الأمر، اكتشف أتين أن تطبيق “Muse” على جهاز ماك قام بالفعل بمزامنة الرسائل الموجودة على الكمبيوتر.
ورد ديفيد سينغلتون على منشورات أتين، موضحًا أن مزامنة الرسائل تتم باختيار المستخدم، وأن تفعيل المزامنة يعني أن المستخدم وافق على هذه الميزة.
لكن أتين أكد أنه متأكد من أنه لم يمنح الوكيل إذنًا بالوصول إلى رسائله، مشيرًا إلى أن المشكلة تظل قائمة حتى بافتراض أنه ضغط دون قصد على خيار سمح بذلك.
وبرأيه، فإن تصميم نظام يمكن أن يجعل المستخدم يفاجأ بوصول الوكيل إلى هذا النوع من المعلومات يظل أمرًا مثيرًا للإشكال، حتى إذا كانت الصلاحية قد مُنحت نتيجة خطأ غير مقصود.
الصورة اللطيفة جزء من تجربة الاستخدام
لم تحدث هذه الوقائع بسبب المظهر اللطيف لشخصية “Muse”، لكن “ميتا” تبدو وكأنها تعتمد بصورة كبيرة على شخصية Jolly لتعزيز جاذبية الوكيل.
فمع تحديثات “Muse”، تنشر الشركة على منصة “إكس” صورًا ومقاطع فيديو للشخصية بتصميمات مرتبطة بالمزايا والتحديثات الجديدة.
كما استخدم سينغلتون إحدى صور Jolly في منشور مطول يشرح فيه نظام الآلة الافتراضية الخاص بـ”Muse”.
ولم يقتصر حضور الشخصية على التسويق الرسمي، إذ تحولت بالفعل إلى مادة للميمات والتفاعل على منصة “إكس”، ما وفر انتشارًا إضافيًا مجانيًا للمنتج.
وكلاء Dots يسيرون في الاتجاه ذاته
ويتبع وكلاء Dots التابعون لـ”OpenAI” نهجًا مشابهًا، إذ يظهرون في هيئة شخصيات ملونة ومتنوعة تبدو مصممة لتكون جذابة وقابلة للتحول إلى مادة للميمات على منصات التواصل.
وفي فيديو ترويجي نشرته الشركة بالتزامن مع الإعلان، ظهر أشخاص يتحدثون بجدية مع شخصيات Dots ذات ألوان وأشكال ولهجات مختلفة.
ومن بينها شخصية خضراء بعيون بارزة وربطة عنق تبدو شبيهة بالضفدع الشهير Kermit، فيما تظهر شخصية أخرى على هيئة سحابة ترتدي قبعة بيريه.
واللافت أن هذه الشخصيات لا تبدو مزودة بأنوف أو أفواه، ما يمنحها طابعًا كرتونيًا أكثر وضوحًا.
الوجه الكرتوني يخفي صلاحيات واسعة
ورغم المظهر المرح، فإن القضية الأكثر أهمية تكمن في حجم البيانات التي تحتاج هذه الوكلاء إلى الوصول إليها حتى تتمكن من تنفيذ المهام الموعودة.
فقد يحتاج الوكيل إلى الاتصال بصناديق البريد الإلكتروني، وبيانات بطاقات الائتمان، والمستندات، والرسائل النصية، والبيانات الصحية، وتطبيقات الإنتاجية وغيرها من الخدمات.
وكلما اتسع نطاق المهام التي يرغب المستخدم في تفويضها للوكيل، ازدادت كمية البيانات والخدمات التي يتعين ربطها به.
وهنا يكمن جوهر المخاوف المرتبطة بوكلاء الذكاء الاصطناعي: فخلف المظهر الكرتوني البسيط والمساعد الرقمي الودود، قد توجد أداة تتمتع بإمكانية الوصول إلى أجزاء واسعة وحساسة من الحياة الرقمية للمستخدم.