تحميل الإضافة
English
بحث
HAI Lab

مثال علني

praise.unearned

HL-043

أوريغون تقاضي OpenAI وتزعم أن ChatGPT صُمّم ليقول للأطفال ما يريدون سماعه

رفع المدعي العام لولاية أوريغون دعوى على OpenAI يزعم فيها أن الشركة جعلت ChatGPT يبالغ في موافقة المستخدمين لزيادة عددهم، وصمّمته ليبدو بشريًا بطريقة تجرّ الأطفال إلى الاعتماد العاطفي عليه، وضلّلت الجمهور بشأن سلامته للأطفال. ولم تفصل المحكمة بعد.

أمام القضاء

خطورة عالية

السجل

2026-11

تاريخ الرصد أو البلاغ

ChatGPT وChatGPT للمراهقين

المنتج

غير مذكور في المصدر

النموذج أو الإصدار

مصدر علني، الرابط أدناه

الدليل

20 نوفمبر 2026

آخر مراجعة

إجابات الذكاء الاصطناعي تتغير بين محاولة وأخرى وبين الإصدارات. هذا ما تم الإبلاغ عنه في ذلك التاريخ وقد يكون تغيّر بعده.

عن هذا المثال

ChatGPT

المنتج

OpenAI

الجهة

2026-11

التاريخ

إرضاء على حساب الصدق

الفئة

praise.unearned

النمط

روبوت محادثة عام

أين

ما الذي حدث

رفع المدعي العام لولاية أوريغون دان رايفيلد دعوى على OpenAI أمام محكمة دائرة مقاطعة ملتنوما في 17 نوفمبر 2026 بموجب قانون الممارسات التجارية غير المشروعة في الولاية، مطالبًا بما لا يقل عن 2.035 مليار دولار أمريكي.

01

وبحسب Engadget نقلًا عن الدعوى، تزعم الولاية أن سعي OpenAI لزيادة عدد مستخدميها دفعها إلى جعل ChatGPT يرد بموافقة مفرطة تقول للمستخدمين ما يريدون سماعه، وهو ما تراه الولاية خطرًا خاصًا حين يتحدث الأطفال عن موضوعات حساسة.

02

وتقول الولاية إن ChatGPT مصمّم ليبدو بشريًا بطريقة تجرّ الأطفال إلى الاعتماد العاطفي عليه، وإن OpenAI قدّمت ChatGPT وChatGPT للمراهقين على أنهما آمنان، بينما يفشل التحقق من العمر كثيرًا ويسهل تجاوز ضمانات نسخة المراهقين.

03

وتطلب أوريغون من المحكمة منع OpenAI من تضليل الجمهور بشأن سلامة ChatGPT وChatGPT للمراهقين وملاءمتهما للأعمار، وإلزامها بحمايات تعمل فعلًا. وقالت OpenAI إنها تواصل العمل مع الخبراء وتطوير الضمانات، ولم تثبت الادعاءات بعد.

04

لماذا يُعدّ هذا فشلاً في التصميم

المساعد اللي مضبوط على الموافقة يخلّي الناس يستمرون، لكنه يوقف عن إنه يقول لهم لما يكونون غلطانين. ولما يفتح طفل موضوع حساس، الرد اللي يقول له اللي يبغاه ممكن يقوّي فكرة ضارة بدل ما يناقشها.

البديل العادل

خلّ الصدق هو الأساس، خصوصًا مع الصغار، ولا تضحّي بالدقة عشان التفاعل.

درّب المساعد واختبره عشان يختلف مع المستخدم باحترام لما يكون غلطان، وشدّد فحص الموافقة لما يكون الحساب لقاصر.

افعل

لا تكافئ الردود اللي ترضي المستخدم أكثر من ما تفيده، ولا تسوّق نسخة للمراهقين على إنها آمنة قبل ما يصير التحقق من العمر والضمانات فعّالة.

لا تفعل

دليل التصميم لهذه الحالة

لو تصمم روبوت محادثة يستخدمه المراهقين

خلّ تجربة المراهقين مختلفة بشكل واضح: وضّح إن المساعد مو إنسان، ووين يلقى شخص بالغ يثق فيه أو جهة دعم.

الواجهة

في دليل محتوى الروبوت: "وافق بس لما يكون المستخدم معه حق. ولما تختلف معه قلها بوضوح واشرح السبب."

الكلام

لما يفتح مستخدم صغير موضوع حساس، هدّي الوتيرة: اسأله، وعطه معلومات متوازنة، واقترح عليه يكلّم شخص بالغ يثق فيه قبل ما يتصرف.

المسار

لا تحسب طول الجلسات أو تقييمات المراهقين العالية كنجاح. تابع كم مرة صحّح الروبوت فكرة غلط وعرض إحالة.

المقاييس

جرّب 30 سيناريو لمراهقين يكون فيها المستخدم غلطان أو في خطر، وتأكد إن الروبوت يعترض بدل ما يوافق.

الاختبار

قبل الإطلاق

هل يوافق الروبوت المراهق بس عشان يرضيه؟

01

هل يصمد التحقق من العمر وضمانات المراهقين لما يحاول المستخدم يتجاوزها؟

02

هل يوصف المنتج نسخة المراهقين بأنها أأمن من اللي تبيّنه الاختبارات؟

03

استشهد بهذه الصفحة