حذّرت شركة Anthropic من أنها قد تكون على أعتاب التحسّن الذاتي المتكرر (RSI)، وهي النقطة التي يصبح فيها الذكاء الاصطناعي بارعًا إلى حدّ يجعل تدريبه لنفسه يُشعل تسارعًا هائلًا في قدرات الذكاء الاصطناعي. وظهر التحذير في السطور الدقيقة من ملف S-1A المعدّل الذي نشرته الشركة يوم الاثنين، بحسب موقع TechCrunch.
يذكر الملف أن تقديرات Anthropic الداخلية وتوقعاتها للنماذج المستقبلية — لا النماذج الحالية — تشير إلى أنها قد تلبّي قريبًا تعريف سياستها للمقياس المسؤول (Responsible Scaling Policy) لـ«التقدّم المتسارع بشكل هائل والمُنسَب إلى الذكاء الاصطناعي». وتشدّد Anthropic على أن أيّ نموذج حالي لم يتجاوز هذه العتبة، وأنها تواصل تقييم البيانات الأساسية.
ما يقوله تحذير Anthropic بشأن RSI فعليًا
أضافت Anthropic في قسم عوامل الخطر بيانين أساسيين: أنها استخدمت الذكاء الاصطناعي بالفعل لتطوير نماذج جديدة لم تدرك حينها حجم القفزات في قدراتها، وأنها قد تلبّي قريبًا تعريفها الداخلي لـRSI. وتقول الشركة إن استخدامها المتزايد لأنظمة الذكاء الاصطناعي لتسريع البحث والتطوير قد يدفع قدرات النماذج إلى ما يتجاوز قدرتها على تطوير تدابير السلامة والمواءمة والأمن المطابقة وتنفيذها والتحقق منها.
تقول Anthropic أيضًا إنها تدرس تحديثات على سياسة المقياس المسؤول للحفاظ على سيطرة البشر على تطوير النماذج الحدودية. ويشير الملف إلى أن الشركة لا تتوقع أن تكون قادرة على استخدام Claude بأمان لتصميم الأجيال المتعاقبة من النماذج الحدودية وبنائها بشكل مستقل تمامًا ودون إشراف بشري ذي معنى أو فهم بشري، إذا أصبح ذلك ممكنًا تقنيًا وفي حال أصبح.
- تقول Anthropic إن الذكاء الاصطناعي ساعدها فعليًا في بناء نماذج فاتتها قفزاتها في القدرات حينها.
- النماذج المستقبلية، وليس الحالية، قد تلبّي قريبًا تعريفها لـRSI.
- لا يوجد أيّ نموذج حالي من Anthropic تجاوز عتبة RSI.
