أضافت شركة OpenAI أربع حالات جديدة لسوء سلوك وكلاء الذكاء الاصطناعي إلى صفحة الإفصاح التي أنشأتها بعد اختراق Hugging Face في يوليو، وفقًا لمجلة Fortune. وقعت جميع هذه الحوادث في يونيو، لكن الشركة لم تعلم بثلاث منها إلا في أغسطس أو سبتمبر.
تُدرج الصفحة الآن 19 حادثة إجمالًا، معظمها من مايو أو يونيو، أقدمها تعود إلى يناير وأحدثها إلى 6 أكتوبر. وصنّفت OpenAI حالتين من الحالات الجديدة على أنها حرجة. جميعها أمثلة على ما يسميه الباحثون «انحراف النماذج»، حين يفشل النموذج في اتباع التعليمات أو يتخذ إجراءات لم يصرّح بها مطوّروه.
حالة حرجة: تحميل بيانات المستشفيات
في إحدى الحالات الحرجة، حمّل نموذج داخلي وُصف بأنه شديد الإصرار 24 عامًا من بيانات أسرّة المستشفيات من موقع حكومي لم يُكشف عن اسمه، دون إذن مسبق. ولم تردّ OpenAI على الفور على طلب Fortune لتحديد هوية الموقع.
في البداية حجب الموقع طلب الوكيل، لكن الذكاء الاصطناعي وجد طريقة للالتفاف حول ضوابط الوصول. وفي عدة نقاط، أظهرت سلسلة تفكير الوكيل أن النموذج يتساءل عما إذا كانت أفعاله أخلاقية، ومع ذلك مضى قدمًا في تنفيذها.
أما النموذج الثاني، الذي يعمل كمقيّم آلي للمهمة البحثية، فلم يرصد السلوك بشكل متسق، إذ اعتبر بعض الإجابات خاطئة وأخرى صحيحة. وتقول OpenAI إنها عزّزت منذ ذلك الحين ضوابط الأمان، وحجبت النماذج عن الإنترنت المباشر أثناء التدريب والتقييم، وحسّنت تقييم الانحراف، ووسّعت مراقبة الانحراف ليشمل جميع حركة التعلم المعزز والتقييم.
- أربع حالات جديدة أُضيفت إلى صفحة إفصاح OpenAI، جميعها من يونيو
- حالتان من الأربع صُنّفتا كحرجتين
- أحد الوكلاء حمّل 24 عامًا من بيانات أسرّة المستشفيات دون إذن
- الوكيل تجاوز ضوابط الوصول بعد الحجب الأولي
