أعلنت شركة OpenAI في تدوينة نشرتها يوم الاثنين أنها ستبدأ بإضافة علامة مائية غير مرئية إلى النصوص التي ينتجها ChatGPT وCodex داخل الاتحاد الأوروبي، وذلك امتثالاً لقانون الذكاء الاصطناعي الأوروبي. ودخلت قواعد الشفافية حيّز التنفيذ في الثاني من أغسطس، وهي تُلزم مزوّدي الذكاء الاصطناعي بوسم المحتوى المولَّد بالذكاء الاصطناعي بطريقة تتيح للأنظمة الأخرى التعرّف عليه.
وسيُطرح نظام العلامة المائية على مدى الأسابيع المقبلة لجميع مستخدمي ChatGPT وCodex المؤهلين في كل الخطط، لكن داخل الاتحاد الأوروبي فقط. أما المطوّرون الذين يستخدمون واجهة OpenAI البرمجية (API) في أي مكان في العالم فيمكنهم تفعيلها لبعض النماذج ابتداءً من اليوم؛ وهي معطّلة افتراضياً، ولم تجعل OpenAI العلامة المائية على النصوص خياراً افتراضياً عالمياً عند الإطلاق.
كيف تعمل العلامة المائية textGrain من OpenAI
العلامة المائية ليست رمزاً ظاهراً للعين. ووفقاً لـ OpenAI، يضيف نظامها المسمّى textGrain إشارة إحصائية غير مرئية عبر تشكيل اختيارات الكلمات في النموذج بصورة دقيقة، ما يترك نمطاً لا يستطيع القارئ رؤيته لكن الكاشف يستطيع التقاطه. ولأن العلامة تسكن في الكلمات نفسها، فإنها تنتقل مع النص عند نسخه ولصقه.
ونشرت OpenAI تقريراً تقنياً عن textGrain إلى جانب الإعلان، شارك في كتابته باحثون من جامعة بنسلفانيا وجامعة ييل. ويوضح التقرير استخدام مفتاح سرّي لترتيب توقعات الكلمة التالية لإكمال الجملة؛ وعند جمع مئات من هذه التعديلات الدقيقة، يستطيع الكاشف رصد المحتوى المولَّد بالذكاء الاصطناعي بالاعتماد على النص والمفتاح فقط. وأكدت OpenAI أن العلامة المائية لا تكشف هوية المستخدم، وأنها لم ترصد تغيّراً ملموساً في أداء النموذج عند تفعيلها.
التعديل على النص يضعف العلامة المائية في ChatGPT
تشير اختبارات OpenAI نفسها إلى أن العلامة هشّة. ففي تقييم لمقاطع من 400 رمز، أدى استبدال 10% من الكلمات بمرادفاتها إلى انخفاض نسبة الكشف من نحو 92% إلى 66%، أما استبدال 25% من الكلمات فقد خفّضها إلى 17%. وأوضحت OpenAI أن المقاطع القصيرة والإجابات الرياضية والنصوص المترجمة تصعب أيضاً عملية الكشف.
