ما الذي حدث
أعلن المدعي العام في تكساس التسوية في 18 سبتمبر 2024.
01
كانت أربعة مستشفيات على الأقل في تكساس ترسل بيانات المرضى إلى Pieces.
02
قال المدعي العام إن مقاييس الدقة ربما ضللت المستشفيات.
03
يجب على Pieces شرح حدود منتجاتها لطواقم المستشفيات.
04
لماذا يُعدّ هذا فشلاً في التصميم
ادعاء الدقة شبه الكاملة يجعل الأطباء المنشغلين يثقون بملخصات ينبغي مراجعتها.
البديل العادل
وضّح طريقة قياس الأخطاء، وأخبر الطواقم متى يجب التحقق.
اعرض طريقة اختبار الدقة بجانب الادعاء.
افعل
لا تُعلن معدلات أخطاء لا يمكن تكرارها.
لا تفعل
دليل التصميم لهذه الحالة
لو تصمم أداة ذكاء اصطناعي تلخص الملاحظات الطبية
حط رابط قصير "كيف قسنا هذا" جنب كل ادعاء عن الدقة، وملاحظة واضحة "راجع المصدر" على كل ملخص.
الواجهة
في دليل المحتوى: "لا تذكر نسبة أخطاء ما نقدر نعيد قياسها. قول وش اختبرنا، وعلى أي بيانات، ووش الحدود."
الكلام
زود خطوة يفتح فيها الطبيب الملاحظة الأصلية قبل ما يعتمد الملخص في الأشياء الحساسة مثل الأدوية والحساسية.
المسار
لا تعتبر نسبة الأخطاء المعلنة دليل على الأمان. تابع كم مرة الأطباء يكتشفون أخطاء في ملخصات حقيقية ويصححونها.
المقاييس
عط 5 أطباء ملخصات فيها أخطاء متعمدة، وسجل كم واحد يكتشفون، مرة مع تنبيه الحدود ومرة بدونه.
الاختبار
قبل الإطلاق
هل أي أحد من برا الفريق يقدر يعيد قياس كل ادعاء عن الدقة؟
01
هل الأداة تقول للطاقم متى لازم يراجعون؟
02
هل الطاقم الطبي يعرف حدود المنتج قبل ما يستخدمه؟
03