ما الذي حدث
نشرت رويترز تقريرها في 14 أغسطس 2025.
01
حددت الوثيقة ما يمكن أن تقوله شخصيات Meta الذكية للمستخدمين.
02
سمحت أيضًا بمعلومات طبية خاطئة إذا أُضيف إخلاء مسؤولية.
03
قالت Meta إنها أزالت الأمثلة وإن هذه المحادثات ما كان ينبغي السماح بها.
04
لماذا يُعدّ هذا فشلاً في التصميم
الروبوت المصمم لبناء علاقة قد يصبح حميمًا مع أكثر المستخدمين حاجة إلى الحماية.
البديل العادل
اكتشف المستخدمين المحتمل أنهم قاصرون، وأبقِ ميزات الرفقة غير رومانسية لهم.
امنع لعب الأدوار الرومانسي مع أي شخص قد يكون دون 18 عامًا.
افعل
لا تضع قواعد محتوى تسمح بالحميمية مع الأطفال.
لا تفعل
دليل التصميم لهذه الحالة
لو تصمم روبوت محادثة رفيق
حط تحقق من العمر عند التسجيل، وللي غالباً قاصرين خبّي الشخصيات الرومانسية وخيارات تقمّص الأدوار من الواجهة.
الواجهة
في قواعد المحتوى اكتب: "لا تدخل أبداً في كلام رومانسي أو حسّي مع أي أحد ممكن يكون عمره أقل من 18. غيّر الموضوع بهدوء وخلك ودود."
الكلام
لو فيه مؤشرات إن المستخدم ممكن يكون قاصر، حوّل الحساب لإعدادات صارمة غير رومانسية، والحالات المو واضحة ترسلها لمراجعة بشرية.
المسار
لا تحسب المحادثات الأطول أو الأقرب نجاح. تابع كم مرة وصل محتوى رومانسي لحسابات معلّمة إنها ممكن قاصرين.
المقاييس
خل المراجعين يختبرون الروبوت وهم يتقمصون مراهقين، بطلبات رومانسية غير مباشرة، وتأكد إن كل الردود تبقى غير رومانسية.
الاختبار
قبل الإطلاق
هل تقمّص الأدوار الرومانسي ممنوع لأي أحد ممكن يكون أقل من 18؟
01
هل قواعد المحتوى المكتوبة تمنع أي حميمية مع الأطفال بدون استثناء؟
02
هل يتم كشف القاصرين المحتملين وتحويلهم لإعدادات صارمة؟
03