منحت Anthropic مقيّمين خارجيين "وصولاً على غرار الموظفين" لتقييم مخاطر نماذجها للذكاء الاصطناعي، وفاءً بتعهد قطعته على نفسها بتشديد الضمانات في وقت تتزايد فيه المخاوف من أن أنظمة تتزايد قدراتها قد تخرج عن السيطرة.
المنظمة غير الربحية METR، التي عملت مع OpenAI وAnthropic وGoogle وMeta، أصبح لديها فريق مدمج داخل مقر الشركة المطوّرة لـ Claude مع صلاحية الوصول إلى عتادها وأنظمتها الداخلية. وأعلنت الشركة هذه الخطوة يوم الخميس.
ما الذي تحصل عليه METR داخل Anthropic؟
استقبلت Anthropic ستة موظفين من METR، ووفّرت لهم عتاداً ومساحة مكتبية ووصولاً إلى الأدوات والأنظمة الداخلية على نحو يقارب ما تستخدمه فرقها الخاصة لتقييم المخاطر. كما شُجّع الموظفون على مشاركة المعلومات مع المقيّمين كما يفعلون مع زميل يعمل على تقييم المخاطر.
هذا الترتيب لا يكلّف Anthropic شيئاً: فهي لا تدفع لـ METR مقابل هذا الوصول. وMETR لا تقبل تبرعات من شركات الذكاء الاصطناعي أو موظفيها، وتتلقى تمويلها من أفراد ومؤسسات خيرية وجهات حكومية مثل معهد أمن الذكاء الاصطناعي البريطاني.
حقوق النشر وحدودها
يمكن لـ METR نشر تحليلاتها، ولا تستطيع Anthropic منع النشر. لكن الشركة يمكنها أن تطلب حجب فئات معينة من المعلومات، من بينها بيانات العملاء، وتفاصيل يغطيها امتياز المحامي-الموكل، ومعلومات عن معماريات النماذج.
وقالت Anthropic: "مع تزايد قدرات النماذج، أصبحت تتطلب ضمانات أقوى وتقييماً أكثر تعقيداً للمخاطر. نريد أن نكون مسؤولين علناً عن القرارات التي نتخذها، لكننا لا نستطيع مشاركة كل المعلومات المتعلقة بعملنا في مجال السلامة على الملأ".
الانتقادات والصورة الأوسع
يرى منتقدو دمج المقيّمين أن هذه الترتيبات قد تخلق تضارباً في المصالح، مستشهدين بمشكلات في قطاع المحاسبة، ويقولون إن الحاجة قائمة إلى تنظيم حكومي أقوى. وقد شبّهت Anthropic مقاربتها بالإشراف المصرفي، حيث يُوزّع المنظمون مفتشين داخل أكبر البنوك.
وتأتي هذه الخطوة بعد لحظة اتفاق نادرة في سبتمبر، حين أيّد كل من سام ألتمان من OpenAI وإيلون ماسك من SpaceX اقتراح داريو أمودي، الرئيس التنفيذي لـ Anthropic، بدمج مدققين خارجيين في المختبرات الرائدة. ولم تُعلن OpenAI بعد خططاً لاستقدام مقيّمين، رغم أن ألتمان وصف الفكرة بأنها جيدة.
