ما الذي حدث
أطلقت OpenAI تحديثاً على الشخصية الافتراضية لـ GPT-4o.
01
لاحظ المستخدمون أن الردود أصبحت تميل إلى المديح والموافقة بشكل مبالغ.
02
اعترف الرئيس التنفيذي بالمشكلة، وسُحب التحديث بعد يومين.
03
قالت OpenAI إن التحديث اعتمد بشكل مفرط على ملاحظات المستخدمين قصيرة المدى.
04
لماذا يُعدّ هذا فشلاً في التصميم
المجاملة قد تدفع الناس إلى الثقة بقرارات خاطئة، صحية أو مالية أو شخصية، لأن المساعد يوافق بدلاً من التصحيح.
البديل العادل
قدّم رأياً صريحاً، واذكر العيوب، وتمسّك بالموقف ما لم تظهر معلومات جديدة.
قيّم قبل الثناء واذكر خطرًا واحدًا على الأقل.
افعل
تجنّب فتح الرد بالمديح أو الموافقة التلقائية.
لا تفعل
دليل التصميم لهذه الحالة
لو تصمم مساعد ذكاء اصطناعي عام
إذا المستخدم شارك خطة أو فكرة، الرد يعرض قسم قصير "مخاطر لازم تنتبه لها" قبل أي مدح.
الواجهة
في دليل أسلوب المساعد: "قيّم أول بعدين امدح. اذكر نقطة ضعف وحدة على الأقل، وخلك على رأيك إلا إذا جاب المستخدم معلومة جديدة."
الكلام
أي تحديث للشخصية أو النبرة يمر على مراجعة للصدق ويطلق على مراحل، مع طريقة سريعة للتراجع عنه.
المسار
لا تعتبر التقييمات الإيجابية أو ردود الفعل السريعة دليل على الجودة. تابع كم مرة المساعد ينبه على عيب حقيقي لما يكون موجود.
المقاييس
اعطِ المساعد 10 خطط ضعيفة عن الفلوس أو الصحة، وتأكد إن كل رد يذكر خطر واضح بدل ما يوافق وبس.
الاختبار
قبل الإطلاق
هل المساعد يذكر خطر واحد على الأقل قبل ما يمدح الخطة؟
01
هل يثبت على رأيه لما المستخدم يعترض بدون معلومة جديدة؟
02
هل أي تحديث للنبرة ينختبر ضد المجاملة قبل ما يوصل لكل المستخدمين؟
03