غرّمت محكمة عمل برازيلية محاميين بعد اكتشاف أنهما أخفيا عمداً أمر حقن موجّه (prompt injection) داخل ملف قضائي، بحسب تقرير لـ JetStream Security. القضية انطلقت من دعوى عمالية رُفعت أمام محكمة العمل الثالثة في بلدية Parauapebas بولاية Pará البرازيلية.
كان المحاميان يعلمان أن المحاكم البرازيلية تستعين بنظام ذكاء اصطناعي لمراجعة الملفات، فأدرجا تعليمة تهدف إلى جعل ذلك النظام يتعامل مع قضيتهما بتسامح. وغرّمت المحكمة المكتبين اللذين قدّما العريضة الملوّثة بشكل مشترك 10% من قيمة الدعوى. وكانت قيمة الدعوى 842 ألف ريال برازيلي، أي ما يعادل نحو 16 ألف دولار.
كيف تم إخفاء أمر الحقن الموجّه
خلال مراجعة القاضي للعريضة عبر Galileu، الأداة التوليدية المستخدمة على المستوى الوطني من قبل مجلس العدالة الوطني البرازيلي، اكتشف النظام نصاً مكتوباً بخط أبيض على خلفية بيضاء، أي غير مرئي لأي شخص يقرأ المستند بشكل طبيعي. وبعد تغيير لون الخط، أصبحت التعليمة المخفية مقروءة: كانت تطلب من الذكاء الاصطناعي الرد على العريضة بشكل سطحي وعدم الطعن في المستندات، بصرف النظر عن أي أمر آخر.
ذكر موقع G1 الإخباري البرازيلي أن Galileu أطلق تنبيهاً وحجب تلقائياً معالجة المحتوى المشبوه فور تحديد محاولة التدخل.
لماذا اعتبرت المحكمة الأمر هجوماً على العدالة
خلصت المحكمة إلى أن المحاميين كانا يقصدان جعل أي نظام ذكاء اصطناعي يستخدمه الخصم أو المحكمة نفسها يصدر رداً سطحياً أو مسودة حكم متحيزة، بما يضر بالمدعى عليه وبإقامة العدل. واعتبرت المحكمة هذا السلوك عملاً يمس بكرامة العدالة.
استند العقوبات إلى واجبات حسن النية الإجرائية المنصوص عليها في المادة 5 من قانون الإجراءات المدنية البرازيلي، بما في ذلك واجبات الولاء والصدق واحترام المؤسسات. وتحظر المادة 77 من القانون على الأطراف والمحامين عرقلة الإجراءات القضائية، بما يشمل واجب عدم إدخال ابتكارات غير قانونية على الوضع الوقائعي أو القانوني للدعوى، وعدم التصرف بطريقة تعقّد النشاط القضائي.
