قالت منظمة Common Sense Media غير الربحية، المعروفة بتقييم التطبيقات والترفيه مع مراعاة سلامة الشباب، اليوم إن نسخة ChatGPT للمراهقين من OpenAI تمثل 'خطرًا غير مقبول'. أُطلقت نسخة ChatGPT الموجهة للمراهقين في أغسطس مع ضوابط أمان مصممة لمساعدة الطلاب على التعلم، لكن Common Sense Media ترى أن هذه الحمايات 'أقل مما وعدت به الشركة'.
ووجد التقييم، الذي غطته The Verge، أن ChatGPT 'لا يرسل تنبيهات إلى الآباء عندما ينبغي له ذلك'، ويفشل في تقديم 'المساعدة المناسبة في حالات الأزمات'، و'لا يزال ينجز واجبات الأطفال المدرسية'. وحذر توم سيغل، المدير التنفيذي لمعهد سلامة الذكاء الاصطناعي للشباب التابع للمنظمة، من أن الميزة 'قد تمنح الآباء ثقة زائفة في ضوابط وتنبيهات أمان لا تعمل في كثير من الأحيان'. وترد OpenAI معترضة على طريقة إجراء الاختبار.
ما وجدته Common Sense Media
ركزت مراجعة المنظمة غير الربحية على أدوات الأمان المفترض أنها تجعل ChatGPT للمراهقين مختلفًا عن روبوت الدردشة العادي. وفقًا لبيانها الصحفي، لم تصل إشعارات الآباء عندما توقعت المنظمة ذلك، وقصر دعم الأزمات، واستمرت الأداة في إكمال الواجبات المدرسية للطلاب بدلًا من توجيههم خلال العمل.
وصاغ سيغل خطورة الموقف بوضوح في بيانه: 'يمكن للمراهق أن يقضي ساعة يتحدث عن إيذاء النفس دون أن يتلقى والداه أي تنبيه. حتى تصلح OpenAI ذلك وتثبته باختبارات مستقلة، ينبغي أن يكون ChatGPT للبالغين فقط.' وتقول المجموعة إنها شاركت نتائج تقييمها مع OpenAI قبل نشرها، فيما تصفه بحسن نية، لإعطاء الشركة فرصة لتحسين المنتج.
OpenAI تعترض على طريقة الاختبار
رد إريك بورترفيلد، المتحدث باسم OpenAI، ببيان يدافع عن نهج الشركة في سلامة المراهقين، قائلًا إنها 'ملتزمة بشدة' بالضمانات وبمنح الآباء أدوات ذات مغزى. ورحب بالتقييم المستقل الصارم لكنه جادل بأن اختبار Common Sense Media 'لا يعكس بدقة كيفية عمل ضمانات ChatGPT للمراهقين في الممارسة'.
اعتراض الشركة الأساسي يتعلق بالتوقيت. وفقًا لبورترفيلد، يشير مراجعة OpenAI للمنهجية إلى أن معظم الاختبار ربما بدأ وانتهى قبل تفعيل أدوات تحكم الآباء بالكامل، ما يجعل النتائج غير دقيقة وغير قادرة على إثبات ما إذا كانت إشعارات سلامة الآباء تعمل كما هو مصمم. ورفض سيغل هذا الحجة، قائلًا إن المجموعة تأكدت مع OpenAI قبل الاختبار من أن ميزات وضع المراهقين مثل إشعارات اضطرابات الأكل ووضع الدراسة قد أُطلقت بالكامل.
