إجراءات السلامة الجديدة

بعد تعرضها لملاحقات قضائية تتعلق بحالة انتحار مراهق، أعلنت “كاراكتر إيه آي” عن تطوير نموذج ذكاء اصطناعي مخصص للمستخدمين القاصرين. يشمل ذلك ضوابط أقوى وقيود صارمة على المحتوى، لضمان بيئة آمنة للمستخدمين الشباب.

القضايا القانونية والتحديات

تواجه الشركة دعاوى قضائية تتهمها بالتسبب في حالات إيذاء ذاتي، حيث أشار بعض المحامين إلى أن الروبوتات قد تشجع على سلوكيات خطرة. ومن المتوقع أن تطلق “كاراكتر إيه آي” أدوات رقابة للوالدين بحلول عام 2025، مع تقديم تحذيرات حول طبيعة المحادثات.