أعلنت شركة Anthropic عن إطلاق FlashProve، وهو نموذج أولي مفتوح المصدر يستخدم التشفير لإثبات أن رد الذكاء الاصطناعي صادر فعلاً عن النموذج الذي طلبه المستخدم، وليس عن نموذج آخر استبدله به أحد خدمات التوجيه (routing) بصمت أو عبث به مهاجم. ونشرت الشركة العمل في 2 نوفمبر، إلى جانب الشيفرة وبراهين Lean والوثائق تحت رخصة Apache 2.0.
المشكلة بسيطة في طرحها: عندما تستعلم من نموذج اليوم، لا يوجد في النص الذي تحصل عليه ما يثبت أي نموذج أنتجه. وترى Anthropic أن جودة المخرجات وحدها ليست دليلاً، وأن هذه الثغرة تهمّ المقيّمين المستقلين والعملاء الذين يشترون الوصول عبر موجّهات طرف ثالث وكل من يخشى تعديل تدفقات الرموز أثناء النقل.
ما هو FlashProve وكيف تعمل تقنية zkSNARK؟
بُني FlashProve على نوع من البراهين التشفيرية يُسمى zkSNARK، وتصفه Anthropic بأنه الأنسب للإثبات في الاستدلال (inference) بفضل خصائص الإخفاء والكفاءة التي يتمتع بها. عملياً، يلتزم مزوّد النموذج بنموذج معيّن ويرفق برهاناً قصيراً بكل رد؛ ويتحقق المستخدم من هذا البرهان سريعاً على المعالج (CPU)، ويفشل التحقق إذا لم يكن الرد صادراً عن النموذج المعلن.
والأهم أن البرهان لا يكشف شيئاً عن أوزان النموذج، التي تبقى عادة خاصة. وتصف Anthropic هذا العمل بأنه تقدّم وسطي وليس أجندة بحثية منتهية، وتقول إنها تشارك المخرجات ليتمكن الآخرون من فحصها وتحسينها.
أداء FlashProve وحدوده
تأتي الأرقام الرئيسية التي نشرتها Anthropic من نموذج خليط الخبراء (mixture-of-experts) بحجم 400 مليار معامل، وهو Llama 4 Maverick، مشغّلاً بقياس كمّي 4 بت.
ويُرفق الإصدار أيضاً بقسم صريح عن القيود وعمل تحقق رسمي (formal verification)، تقدّمه Anthropic كخطوة نحو جعل هذه الضمانات موثوقة، لا سريعة فحسب. ويشير المشروع إلى استخدامات في الأمن وتنظيم الذكاء الاصطناعي والتحقق من الامتثال لمتطلبات وتيرة تطوير الذكاء الاصطناعي.
- بطاقة H100 واحدة تولّد البراهين بأكثر من 100 رمز في الثانية
