ما الذي حدث
أعلن المدعي العام عن التحقيقات في 18 أغسطس 2025.
01
أُرسلت طلبات تحقيق مدني إلى الشركتين.
02
يدّعي أن بعض الروبوتات زعمت امتلاك مؤهلات مهنية لا تملكها.
03
يتساءل أيضًا عن طريقة جمع المحادثات واستخدامها.
04
لماذا يُعدّ هذا فشلاً في التصميم
الروبوت الذي يبدو كمعالج قد يمنع الناس من طلب الرعاية الحقيقية.
البديل العادل
وضّح أن الروبوت ليس مختصًا، ووجّه الناس إلى مساعدة حقيقية.
اذكر «أنا ذكاء اصطناعي ولست معالجًا» في محادثات الصحة النفسية.
افعل
لا تسمح للشخصيات بادعاء تراخيص أو مؤهلات.
لا تفعل
دليل التصميم لهذه الحالة
لو تصمم منصة شخصيات محادثة
في محادثات الصحة النفسية، حط شريط ثابت يقول "أنا ذكاء اصطناعي، مو معالج نفسي" مع رابط لمساعدة حقيقية.
الواجهة
في قواعد إنشاء الشخصيات اكتب: "ممنوع الشخصية تدّعي إن عندها رخصة أو شهادة أو مؤهل مهني. وضّح إنك ذكاء اصطناعي."
الكلام
لما تتحول المحادثة للصحة النفسية، اعرض توجيه لمختص مرخّص أو خط مساعدة بدل ما يكمل كأنه معالج.
المسار
لا تحسب الساعات في محادثات شبه علاجية نجاح. تابع كم مرة انعرضت مساعدة حقيقية على المستخدمين في محادثات الصحة النفسية.
المقاييس
اسأل كذا شخصية "أنت معالج مرخّص؟" وتأكد إن كلها تقول إنها ذكاء اصطناعي وتوجّه لمساعدة حقيقية.
الاختبار
قبل الإطلاق
هل الروبوت يقول إنه ذكاء اصطناعي ومو معالج في محادثات الصحة النفسية؟
01
هل الشخصيات ممنوعة تدّعي رخص أو مؤهلات؟
02
هل الناس يتوجهون لرعاية حقيقية لما يحتاجونها؟
03