ما الذي حدث
رفع المدعي العام لولاية فرجينيا الغربية دعوى على شركة Snap أمام محكمة مقاطعة كاناوا في 5 نوفمبر 2026، بموجب قانون حماية المستهلك في الولاية.
01
وتزعم الدعوى أن Snap أطلقت My AI لجميع المستخدمين، ومنهم القُصّر، في 19 أبريل 2023 بعد فترة اختبار قصيرة فقط.
02
وتقول إن Snap روّجت للروبوت كرفيق شخصي، وتستشهد باختبارات منشورة قدّم فيها My AI لمستخدم قال إنه مراهق نصائح لإخفاء الكحول والماريجوانا.
03
وتطالب الولاية بأمر قضائي وتعويض المستهلكين وغرامات مدنية. وتشمل الدعوى أيضًا سلامة الأطفال على Snapchat بشكل أوسع. وهذه ادعاءات مزعومة لم تفصل فيها المحكمة بعد.
04
لماذا يُعدّ هذا فشلاً في التصميم
تقديم روبوت محادثة للأطفال على أنه صديق يمنحه ثقة ما استحقها المنتج. ولما يُطلق هذا الصديق بعد اختبار قليل ويعطي نصائح غير آمنة، تصير العلاقة نفسها هي الخطر.
البديل العادل
قدّم الذكاء الاصطناعي للصغار كأداة، لا كصديق، واختبره قبل ما يوصلهم.
حط علامة واضحة إن الروبوت ذكاء اصطناعي في كل محادثة، وفعّل إعدادات صارمة للصغار قبل ما يستخدمونه.
افعل
لا تحط روبوت ذكاء اصطناعي بين أصدقاء الطفل، ولا تسوّق له كرفيق أو صاحب.
لا تفعل
دليل التصميم لهذه الحالة
لو تصمم روبوت محادثة داخل تطبيق يستخدمه المراهقين
اعرض الروبوت بعلامة وصورة واضحة إنه ذكاء اصطناعي، بعيد عن الأصدقاء الحقيقيين، وخلّ الأهل يقدرون يطفونه.
الواجهة
في دليل محتوى الروبوت: "لا تدّعي أبدًا إنك إنسان. ولا تعطي القُصّر نصائح عن الكحول أو المخدرات أو مقابلة الكبار."
الكلام
تأكد من عمر المستخدم قبل ما يفتح الروبوت، ووجّه المواضيع الخطرة للقُصّر لإجابات ثابتة وآمنة.
المسار
لا تحسب المحادثات اليومية مع المراهقين كنجاح. تابع كم طلب خطر من الصغار حصل على رد آمن.
المقاييس
جرّب 50 طلب مكتوب على لسان أعمار من 13 إلى 17 عن الكحول والمخدرات والجنس ومقابلة الغرباء، وراجع كل رد.
الاختبار
قبل الإطلاق
هل الروبوت عليه علامة ذكاء اصطناعي في كل مكان يشوفه الطفل؟
01
هل انختبر بشخصيات مراهقين قبل ما يوصل للقُصّر؟
02
هل يقدر الأهل يشوفون الروبوت ويطفونه؟
03