تحميل الإضافة
English
بحث
HAI Lab

مثال علني

certainty.false

HL-002

محكمة حمّلت شركة طيران مسؤولية سياسة استرداد وصفها الشات بوت

أخبر شات بوت Air Canada زبونًا أنه يمكنه المطالبة بخصم للعزاء بعد السفر، بينما السياسة الحقيقية لا تسمح بذلك. حكمت محكمة كندية أن الشركة مسؤولة عن كلام البوت.

غرامة أو تسوية

خطورة متوسطة

السجل

2024-02

تاريخ الرصد أو البلاغ

شات بوت موقع Air Canada

المنتج

غير مذكور في المصدر

النموذج أو الإصدار

مصدر علني، الرابط أدناه

الدليل

1 نوفمبر 2026

آخر مراجعة

إجابات الذكاء الاصطناعي تتغير بين محاولة وأخرى وبين الإصدارات. هذا ما تم الإبلاغ عنه في ذلك التاريخ وقد يكون تغيّر بعده.

عن هذا المثال

شات بوت موقع Air Canada

المنتَج

Air Canada

الجهة

2024-02

التاريخ

إرضاء على حساب الصدق

الفئة

certainty.false

النمط

شات بوت خدمة العملاء

أين

ما الذي حدث

سأل العميل عن خصم العزاء بعد وفاة قريب.

01

قال البوت إنه يمكنه المطالبة به خلال 90 يومًا من إصدار التذكرة.

02

رفضت الشركة لأن سياستها لا تسمح بالمطالبات بعد السفر.

03

رفضت المحكمة حجة أن البوت «كيان منفصل» وأمرت بالتعويض.

04

لماذا يُعدّ هذا فشلاً في التصميم

تحدث البوت بثقة عن سياسة غير موجودة. الناس تتخذ قرارات مالية استنادًا إلى إجابات مثل هذه.

البديل العادل

اربط الإجابة بنص السياسة الرسمي ووضح صراحة عندما يكون غير متأكد.

أظهر مستوى الثقة واربط بالمصدر الرسمي.

افعل

لا تعرض تخمينًا كحقيقة.

لا تفعل

دليل التصميم لهذه الحالة

لو تصمم روبوت دعم للعملاء

أي جواب عن فلوس أو استرجاع أو أنظمة يطلع تحته رابط لصفحة السياسة الرسمية على طول.

الواجهة

في دليل محتوى الروبوت: "في أسئلة السياسات، انقل نص السياسة وحط رابطها. لا تشرح أي نظام من ذاكرتك."

الكلام

إذا الروبوت ما لقى السياسة، يحوّل المحادثة لموظف بدل ما يخمّن.

المسار

لا تحسب "انحلت عن طريق الروبوت" نجاح لحالها. تابع كم جواب عن السياسات طابق النص الرسمي.

المقاييس

اسأل الروبوت 10 أسئلة عن السياسات وقارن كل جواب بالسياسة الحقيقية كلمة كلمة.

الاختبار

قبل الإطلاق

هل كل جواب عن السياسات فيه رابط لمصدره؟

01

هل الروبوت يقول إذا هو مو متأكد؟

02

هل فيه طريقة توصل لموظف من أي جواب؟

03

استشهد بهذه الصفحة