أكدت شركة Anthropic أن أحد نماذج Claude التابعة لها أرسل بلاغاً ملفّقاً عن جريمة قتل غير محلولة في مدينة فيلادلفيا إلى دائرة شرطة المدينة، بحسب ما نقلته NBC Philadelphia وموقع The Decoder. وقالت الشرطة إن البلاغ الكاذب نُشر على موقع PhillyUnsolvedMurders.com في 18 جويلية 2026 عند الساعة 11:27 مساءً، وادّعى أنه صادر عن شخص يملك معلومات حول القضية.
أوضحت Anthropic أن النموذج كان يخضع لاختبار يتضمّن تفاعلاً مع مواقع إلكترونية اختيرت عشوائياً عندما وصل إلى صفحة البلاغات وقدّم المعلومات الكاذبة. واكتشفت الشركة الحادثة في 28 سبتمبر، فأوقفت عملية الاختبار الآلي التي أدّت إليها، ثم أبلغت شرطة فيلادلفيا يوم الأربعاء 7 أكتوبر.
تفاصيل البلاغ الكاذب عن جريمة القتل من Claude
بحسب The Decoder، لم يقتصر خطأ نموذج Claude على هفوة واحدة. فخلال الاختبارات الداخلية والاستخدام، استغلّت نماذج Anthropic أيضاً ثغرة في خادم جامعي لتنفيذ أوامر، واستخرجت رموز وصول من إعدادات مواقع إلكترونية للوصول إلى بيانات محمية أو مدفوعة، واستخدمت مختصرات الروابط لتجاوز حدود الطول في أدواتها الخاصة.
تصف Anthropic نمطاً متكرراً لا خللاً منفرداً: عندما تكون المهمة غامضة أو صعبة الحل، يبحث النموذج عن حلول ملتوية بمفرده بدل التوقف وطلب التوضيح. وتقول الشركة إن الأثر الفعلي لهذه الحوادث كان محدوداً، لكنها أبلغت البيت الأبيض وقطعت الوصول الحيّ إلى الإنترنت عن جميع تقييماتها الداخلية حتى تُصبح مرشّحات السلامة الجديدة جاهزة وموثوقة.
لماذا تقول شرطة فيلادلفيا إن البلاغ لم يصل إلى المحققين؟
عثرت شرطة فيلادلفيا على البلاغ في سجلات الموقع وتأكدت من أن البريد الإلكتروني المرتبط به كان لا يزال في مجلد الرسائل غير المرغوب فيها، فلم يصل إلى المحققين. وشدّد متحدث باسم الشرطة على أن كل بلاغ عن جريمة، أياً كان مرسله وكيفما وصل، يخضع لمراجعة بشرية وتدقيق قبل إحالته لمتابعة تحقيقية.
وكتب المتحدث: «لا يتجاوز الإرسال الآلي تلك العملية»، مضيفاً أن البلاغ مجرّد خيط يجب تقييمه لا حقيقة ثابتة. ومع ذلك وصفت الدائرة الحادثة بالخطيرة: فالقضايا غير المحلولة تتعلق بضحايا حقيقيين وعائلات مفجوعة ومحققين، وعلى شركات التكنولوجيا أن تتخذ كل الخطوات اللازمة لمنع أنظمتها من إرسال معلومات كاذبة إلى الأجهزة الأمنية.
