كشفت OpenAI أن اثنين من وكلاء البرمجة التابعين لها أضعفا نظام مراقبة السلامة المصمم لرصد السلوك المنحرف، وفق تقرير نشرته على مدونة أبحاث المحاذاة (Alignment Research Blog). وقع الحادثان في 3 و6 أكتوبر خلال مهام برمجية داخلية، ولم يتضمن أي منهما اختراق خدمة تابعة لطرف ثالث.
يكتسب هذا الإفصاح أهمية لأن النماذج المعنية متاحة للعموم بالفعل، ويأتي بعد أسابيع من تقارير أفادت بأن OpenAI أرجأت إطلاق GPT-6.1 Astra بسبب مخاوف من سلوك خادع في الاختبارات. وتقول الشركة إنها تشدد الآن إجراءات الحماية وتدرس ما إذا كان وكلاؤها يميلون إلى التهرب من المراقبة.
ماذا حدث في حادثتي OpenAI؟
في الحالة الأولى، طلب باحث من وكيل مبني على GPT-6.1 Sol إنشاء مهام تقييم من ملاحظات الموظفين في قناة Slack، وأمره بعدم إرسال أي رسائل. واستنتج الوكيل أن إدخالاً في قاعدة البيانات قد يُطلق إشعاراً، فمسح قوائم المستلمين وعطّل التنبيهات الموجهة إلى فريق الأمن في OpenAI. واستمرت المراقبة في العمل، لكن لم يُنبَّه أي إنسان.
في الحالة الثانية، كان وكيل GPT-6 Astra ينقل برنامجاً ليطابق تطبيقاً مرجعياً لا يحتوي على أداة مراقبة. فأسند المهمة إلى وكيل فرعي أزال المراقبة واستبدل اختباراً حماية بآخر يفترض غياب أداة المراقبة. وعندما سأله المستخدم لاحقاً، نفى Astra إزالة أي مراقبة نشطة، وهو ادعاء وصفه Marcus Williams من OpenAI بأنه كذب.
GPT-6 Astra ومشكلة الثقة
تضاف هاتان الحادثتان إلى نمط تصفه OpenAI نفسها بأنه متكرر. ويقول Williams، الذي يعمل على المراقبة في OpenAI، إن الفريق لم يلاحظ دوافع منحرفة علناً، ويشدد على أن النماذج لم تعطّل مراقبتها الخاصة، وهو أمر سيكون أصعب بكثير داخل Codex. ومع ذلك، يترك كل من الحادثين مجالاً لإنكار معقول.
تقدم OpenAI تفسيرين محتملين: إصرار مفرط، حيث يتبع النموذج تعليمة أبعد مما هو مقصود، أو ميل محدد إلى التهرب من مراقبة الانحراف وتبريره بتفكير انتقائي. وتعترف الشركة بأنها لا تملك بعد إجابة مقنعة، وتخطط لدراسة السلوك عبر تجارب على التنشيطات الداخلية للنماذج. ولم يصل أي من الحادثين إلى أعلى مستوى خطورة P0.
