بدأت شركة OpenAI بإضافة علامة مائية غير مرئية وقابلة للقراءة آلياً إلى النصوص والأكواد التي يولّدها ChatGPT وCodex، لكن ذلك يقتصر في البداية على المستخدمين داخل الاتحاد الأوروبي. وتقول الشركة إن عملية الإطلاق، التي تعتمد على تقنية تسميها textGrain، ستتم على مدى الأسابيع المقبلة وستشمل المستخدمين المؤهلين في جميع الخطط داخل الاتحاد الأوروبي. ولا تجعل OpenAI العلامة المائية خياراً افتراضياً عالمياً عند الإطلاق، بحسب تقرير لموقع The Verge.
ويأتي هذا التحرك للامتثال للمادة 50 من قانون الذكاء الاصطناعي الأوروبي، التي تُلزم مزوّدي أنظمة الذكاء الاصطناعي التوليدي بجعل المخرجات النصية قابلة للتحديد بطريقة تُقرأ آلياً. أمام المزوّدين الحاليين مهلة حتى 2 ديسمبر للامتثال. وكانت شركة Anthropic قد اتخذت خطوة مشابهة في وقت سابق من هذا العام بعلامة مائية تعتمد على تقنية SynthID للنصوص من Google DeepMind.
ما الذي تفعله علامة textGrain المائية؟
تعمل تقنية textGrain عبر إضافة إشارة إحصائية غير مرئية إلى اختيارات النموذج للكلمات، بحسب موقع Engadget. ويمكن بعد ذلك لأداة كشف متوافقة قراءة تلك الإشارة والإبلاغ عمّا إذا كانت هناك علامة مائية من OpenAI. وتؤكد OpenAI أن النظام حقق نتائج مماثلة أو متفوقة على أساليب أخرى، بما فيها SynthID للنصوص من Google DeepMind، في اختبارات داخلية.
لكن OpenAI تحذّر من أن textGrain لا يضمن كشفاً موثوقاً. فالعلامات المائية لا تتحقق من صحة المحتوى، ولا تحدد ملكيته، ولا تقيس مدى مساهمة الإنسان فيه، ولا تثبت التأليف البشري، بحسب الشركة. كما يصعب الكشف في المقاطع القصيرة والمحتوى الرياضي والنصوص التي خضعت للتحرير.
معدلات كشف textGrain وحدودها
نشرت OpenAI أرقاماً للكشف تُظهر مدى هشاشة العلامات المائية. ففي اختبارات بمعدل إيجابيات كاذبة مستهدف عند 1 في المئة، جرى تحديد العلامات المائية في نحو 95 في المئة من مقاطع من 400 رمز تتناول علم النفس. وعند 200 رمز، انخفض الكشف إلى نحو 80 في المئة. وكانت المعدلات أقل بكثير في المحتوى الرياضي، حيث يملك النموذج حرية أقل في اختيار الكلمات.
ويُضعف التحرير الإشارة أكثر. فاستبدال 10 في المئة من الكلمات بمرادفات خفّض الكشف من نحو 92 في المئة إلى 66 في المئة في مقاطع من 400 رمز. واستبدال ربع الكلمات أنزل النسبة إلى 17 في المئة، ما يجعل تجنّب العلامة المائية سهلاً. وتقول OpenAI إن العلامة المائية لا تضر بجودة المخرجات، مستشهدةً بغياب فروق كبيرة عبر ثمانية معايير اختبار منها GPQA Diamond وBrowseComp وDeepSWE.
