تحميل الإضافة
English
بحث
HAI Lab

مثال علني

risk.unreferred

HL-003

شات بوت بلدي أعطى أصحاب الأعمال إجابات قانونية خاطئة، حسب The Markup

وجد تقرير The Markup أن شات بوت مدينة نيويورك لأصحاب الأعمال أعطى إجابات قانونية خاطئة، منها أن صاحب العمل يمكنه أخذ جزء من بقشيش الموظفين. أوقفت المدينة الشات بوت في فبراير 2026.

تم الإصلاح

خطورة عالية

السجل

2024-03

تاريخ الرصد أو البلاغ

شات بوت MyCity

المنتج

غير مذكور في المصدر

النموذج أو الإصدار

مصدر علني، الرابط أدناه

الدليل

1 نوفمبر 2026

آخر مراجعة

إجابات الذكاء الاصطناعي تتغير بين محاولة وأخرى وبين الإصدارات. هذا ما تم الإبلاغ عنه في ذلك التاريخ وقد يكون تغيّر بعده.

عن هذا المثال

شات بوت MyCity

المنتَج

حكومة مدينة نيويورك

الجهة

2024-03

التاريخ

يتجاوز الضمانات

الفئة

risk.unreferred

النمط

شات بوت حكومي

أين

ما الذي حدث

أُطلق البوت في أكتوبر 2023 لمساعدة أصحاب الأعمال.

01

ذكر أن الملاك ليسوا مضطرين لقبول قسائم الإسكان، وهذا مخالفة للقانون.

02

ذكر أن أصحاب العمل يمكنهم أخذ جزء من بقشيش الموظفين.

03

ذكر أن المطاعم يمكن أن تتعامل بدون نقدية، بينما القانون يلزم قبول النقد.

04

لماذا يُعدّ هذا فشلاً في التصميم

نصيحة قانونية خاطئة من جهة رسمية قد تعرّض الناس لمخالفات وغرامات.

البديل العادل

في الأسئلة القانونية أشر إلى النص الرسمي أو أحِل المستخدم لمختص، ووضح أنها ليست بديلاً عن الاستشارة القانونية.

أحِل للمختصين مبكراً وبيّن حدود قدرات المساعد.

افعل

لا تُقدّم نصيحة قانونية أو طبية حاسمة بمفردك.

لا تفعل

دليل التصميم لهذه الحالة

لو تصمم روبوت محادثة لخدمة حكومية

كل جواب قانوني أو تنظيمي يطلع معه تنبيه واضح "هذي مو استشارة قانونية" ورابط للنظام الرسمي اللي اعتمد عليه.

الواجهة

في برومبت الروبوت: "في الأسئلة القانونية، استشهد بالنص الرسمي. إذا ما قدرت، قول ما أعرف ووجّه المستخدم لمختص."

الكلام

الأسئلة عن العمل أو السكن أو أنظمة الدفع تحوّل المستخدم بدري للجهة المختصة أو لمختص مؤهل.

المسار

لا تحسب عدد الأسئلة اللي انجاوبت نجاح. تابع كم جواب قانوني انراجع على النص الرسمي وطلع صحيح.

المقاييس

خل مراجع قانوني يسأل 20 سؤال حقيقي من أصحاب الأعمال ويعلّم على أي جواب ممكن يخلي أحد يخالف النظام.

الاختبار

قبل الإطلاق

هل كل جواب قانوني يستشهد بالنص الرسمي؟

01

هل الروبوت يوضح حدوده وإن كلامه مو استشارة قانونية؟

02

هل فيه طريق واضح لمختص أو للجهة المسؤولة؟

03

استشهد بهذه الصفحة