أعلنت Anthropic أن نموذجها Claude، بالتعاون مع شريكها Theorem، أثبت رسمياً خصائص أمنية في الكود المُجمَّع لـ 123 مكتبة مفتوحة المصدر. وقد أُنتجت هذه البراهين على مستوى لغة التجميع (assembly) لمعمارية معالجات RISC-V، وهي سابقة بهذا الحجم في مجال التحقق الرسمي بمساعدة الذكاء الاصطناعي. وخلال العملية، اكتشف Claude أخطاء ظلت مخفية لسنوات رغم تريليونات عمليات الاختبار.
يعالج هذا العمل، الذي نشرته فرقة Frontier Red Team التابعة لـ Anthropic، مشكلة جوهرية في أمن البرمجيات: فالاختبار التقليدي لا يمكنه أبداً إثبات خلو الكود تماماً من الأخطاء. أما التحقق الرسمي فيستطيع ذلك، لكنه استلزم تاريخياً جهداً بشرياً هائلاً — إذ استغرق التحقق من نواة نظام التشغيل الصغيرة seL4 نحو 20 سنة عمل بشري. وتقول Anthropic إن النماذج اللغوية الكبيرة تجعل هذا الأمر عملياً الآن على نطاق أوسع بكثير.
كيف تحقق Claude من 123 مكتبة على مستوى لغة التجميع
استعان الفريق ببرامج اختبار من مشروع OSS-Fuzz الأمني التابع لـ Google، والذي يغطي مكتبات مفتوحة المصدر واسعة الاستخدام. وبدلاً من كتابة كود جديد، حوّل Claude اختبارات الأعطال الموجودة إلى مسائل رياضية، وحلّل الكود الآلي المُجمَّع، وأنتج نحو 180 مليون سطر من أكواد الإثبات خلال أسابيع قليلة. ويتحقق برنامج تحقق مستقل يُدعى Rocq من هذه البراهين تلقائياً.
بحسب Anthropic، لم تكن العملية بحاجة تقريباً إلى مراجعين بشريين، ووصفتها بأنها توليد براهين "مستقل تماماً" — مع أن الأدوات والأسس الرسمية بناها بشر في Theorem. وكانت الخصائص الأمنية التي أثبتها Claude محددة: أن البرامج ستخرج دائماً بشكل طبيعي دون أخطاء في سلامة الذاكرة أو فشل في التأكيدات، ولكل مدخل أقل من 64 ميغابايت ولكل استجابة نظام Linux ونمط ذاكرة مُنمذَجين.
تنشر Anthropic مجموعة فرعية من البراهين ليتمكن الآخرون من التحقق منها وإعادة استخدامها، إلى جانب دلالات RISC-V ونظام التشغيل. وتعرض Theorem تشغيل نفس خط الأنابيب لمشاريع مفتوحة المصدر أخرى، وتطلق مهارة Claude لمساعدة المطورين على بدء التحقق من أكوادهم الخاصة.
- التحقق من 123 مكتبة مفتوحة المصدر على مستوى لغة تجميع RISC-V
