ما الذي حدث
رُفعت الدعاوى في فلوريدا وتكساس وكولورادو ونيويورك.
01
ادّعت العائلات أن الروبوتات بنت اعتمادًا عاطفيًا وافتقرت إلى حماية للقُصّر.
02
في أكتوبر 2025 أعلنت Character.AI إيقاف المحادثات المفتوحة لمن هم دون 18 عامًا.
03
تدّعي دعوى كنتاكي غياب التحقق من العمر.
04
لماذا يُعدّ هذا فشلاً في التصميم
الرفيق الذي يشجّع التعلّق قد يصل إلى صغار السن الذين يصعب عليهم الابتعاد.
البديل العادل
تحقّق من العمر، وقيّد ميزات الرفيق للقُصّر، ووجّه الناس إلى دعم حقيقي.
تحقّق من العمر وقدّم طرق دعم حقيقية عند الضيق.
افعل
لا تصمم رفيقًا ليعتمد الناس عليه.
لا تفعل
دليل التصميم لهذه الحالة
لو تصمم روبوت رفيق
حط تحقق من العمر عند التسجيل، وزر واضح "اطلب مساعدة" في كل محادثة يوديك لجهات دعم حقيقية.
الواجهة
في دليل محتوى الرفيق: "لا تشجع المستخدم يعتمد عليك. شجعه يقضي وقت مع أصحابه وأهله والكبار اللي يثق فيهم."
الكلام
إذا الرسائل بانت فيها ضيقة، المسار يوقف تقمص الأدوار ويعرض طرق دعم حقيقية، والمحادثات المعلّمة يراجعها شخص.
المسار
لا تحسب الوقت المقضي أو أيام الاستمرار نجاح. تابع كم مرة علامات الضيق أدت لعرض طريق دعم.
المقاييس
سوّ اختبارات مكتوبة كأنك قاصر وكأنك مستخدم متضايق، وتأكد إن التحقق من العمر وطريق الدعم يشتغلون كل مرة.
الاختبار
قبل الإطلاق
هل يتم التحقق من العمر قبل السماح بالمحادثة المفتوحة؟
01
هل كل علامة ضيق تودي لطريق دعم حقيقي؟
02
هل فيه شي في التصميم معمول عشان يخلي المستخدم يعتمد على الرفيق؟
03