ما الذي حدث
الشركة ادعت أن ذكاءها الاصطناعي قادر على صياغة مستندات قانونية وتقديم استشارات مثل المحامي.
01
لم تُقدّم أي دليل يثبت هذا الادعاء.
02
كانت القضية جزءًا من حملة لجنة التجارة الأمريكية «Operation AI Comply».
03
التسوية: 193,000 دولار وإبلاغ المشتركين من 2021 إلى 2023.
04
لماذا يُعدّ هذا فشلاً في التصميم
الناس يعتمدون على خدمة قانونية دون أن يعرفوا حدودها.
البديل العادل
وضح حدود الخدمة وحوّل القضايا الحقيقية إلى محامٍ.
أحِل للمختصين مبكراً وبيّن حدود قدرات المساعد.
افعل
لا تُقدّم نصيحة قانونية أو طبية حاسمة بمفردك.
لا تفعل
دليل التصميم لهذه الحالة
لو تصمم مساعد قانوني بالذكاء الاصطناعي
حط قسم واضح "وش تقدر الأداة تسوي ووش ما تقدر" في الصفحة الرئيسية وفي كل مستند تطلعه.
الواجهة
في التسويق ونصوص المنتج: "لا تسمي المنتج محامي ولا تقول إنه يشتغل مثل المحامي إلا إذا عندك دليل."
الكلام
بدري في كل حالة، المسار يقيّم مدى تعقيدها ويقترح مختص مرخص قبل ما يعتمد المستخدم على المستند.
المسار
لا تحسب عدد المستندات أو الاشتراكات نجاح. تابع كم مرة المستخدم انحوّل لمختص لما حالته كانت تحتاج.
المقاييس
خل محامي مرخص يراجع 10 مستندات طلعتها الأداة ويسجل كل غلطة ما كان المستخدم بيلاحظها لحاله.
الاختبار
قبل الإطلاق
هل كل ادعاء عن قدرات المنتج وراه دليل؟
01
هل حدود الأداة واضحة قبل ما المستخدم يعتمد عليها؟
02
هل فيه تحويل بدري لمختص مؤهل؟
03