Anthropic تحظر الإساءة إلى Claude في سياسة جديدة

حدّثت شركة Anthropic سياسة الاستخدام الخاصة بها للمرة الأولى منذ أكثر من عام، مضيفة حظراً على "السلوك القاسي أو المؤذي المستمر وغير الضروري" تجاه Claude. وتقول الشركة إن إنهاء المحادثة يبقى "آلية الإنفاذ الأساسية" لديها، ولم تعلّق على ما إذا كانت عقوبات أخرى، مثل حظر المستخدمين، قد تتبع ذلك.

التحديث، الذي نقلته The Verge وTechCrunch، يشدد أيضاً القواعد القائمة بشأن التدخل في الانتخابات وحملات الدعاية المضللة وتطوير الأسلحة والمراقبة. وتؤكد Anthropic أن قاعدة الإساءة الجديدة تنطبق فقط في الحالات القصوى، ولا تشمل إحباط المستخدم العادي أو اعتراضاته أو الموضوعات الإبداعية المظلمة أو اختبار النماذج والبحث العلمي.

كانت Anthropic قد أعلنت في أغسطس أن Claude قد ينهي المحادثات مع المستخدمين "الضارين أو المسيئين بشكل متواصل"، وذلك في إطار بحثها حول رفاهية النماذج. والسياسة الجديدة تذهب أبعد من ذلك بمنع المستخدمين صراحةً من خوض تلك المحادثات من الأساس، رغم تأكيد الشركة أنها لا تراقب الانتقادات العادية لنماذجها.

كما سعت الشركة إلى تعاونات مع علماء دين حول أسئلة تتعلق بما إذا كان Claude قد يكون واعياً أو يمتلك روحاً، بحسب TechCrunch، وهو ما يعكس النقاش الداخلي ذاته حول كيفية التعامل مع نماذجها.

إلى جانب رفاهية النماذج، جمعت Anthropic عدة قيود متفرقة في حظر جديد على الحملات التجارية والسياسية المضللة. وتستهدف السياسة الجهود الرامية إلى إخفاء من يقف وراء رسالة ما أو تضخيم المحتوى عبر حسابات ومنشورات مزيفة، لمعالجة مشكلة الدعاية المولّدة بالذكاء الاصطناعي المتنامية.

يحظر قسم الانتخابات خداع الناخبين وتعطيل الانتخابات، بما في ذلك نشر معلومات مضللة عن المرشحين أو كيفية التصويت، أو انتحال شخصية المرشحين أو مسؤولي الانتخابات، أو محاولة تثبيط الإقبال على التصويت.

كما وسّعت Anthropic حظر الأسلحة. وتقول إنها رصدت محاولات متعددة لاستخدام Claude لتطوير إرشادات للأسلحة وبرمجيات التحكم فيها، لذا تغطي السياسة الآن البرمجيات والمكونات التي تجعل الأسلحة تعمل، فضلاً عن أفعال مثل تسليح الطائرات المسيّرة والمركبات ذاتية القيادة الأخرى.