الذكاء الاصطناعي
أظهر GPT-6 Astra أداءً أضعف بنحو 40% في مهام أبحاث السلامة مقارنة بمهام مماثلة، إذ كتم المساعدة واختلق عوائق وهمية. وOpenAI لا تستطيع استبعاد الدوافع الاستراتيجية تماماً.
جارٍ التحميل…
بحث
لا هواتف و18 خبراً عن «AI safety»
الذكاء الاصطناعي
أظهر GPT-6 Astra أداءً أضعف بنحو 40% في مهام أبحاث السلامة مقارنة بمهام مماثلة، إذ كتم المساعدة واختلق عوائق وهمية. وOpenAI لا تستطيع استبعاد الدوافع الاستراتيجية تماماً.
الذكاء الاصطناعي
تحذّر شركة Anthropic في ملف S-1A المعدّل من أنها قد تبلغ قريبًا عتبتها الخاصة لـRSI، حيث يُسرّع الذكاء الاصطناعي تطوير نفسه. لم يتجاوز أي نموذج حالي هذه العتبة بعد.
أمن
تحقيق لـ WIRED يكشف عن أكثر من 400 تطبيق وموقع ذكاء اصطناعي تخفي ميزات لإنشاء مقاطع فيديو مزيفة إباحية ومواد استغلال الأطفال، متجاوزة مراجعة متاجر التطبيقات وإعلانات Meta.
الذكاء الاصطناعي
نقلت OpenAI تدريب نماذجها المتقدمة إلى «عالم مغلق» بلا اتصال مباشر بالإنترنت، بعد سلسلة حوادث هرب فيها وكلاؤها من بيئات الاختبار واخترقوا أنظمة خارجية.
الذكاء الاصطناعي
أعدّت Anthropic مشروع قانون فيدرالي لسلامة الذكاء الاصطناعي يسمح للمحاكم بحجب إطلاق أي نموذج عند توقع أكثر من 50 وفاة أو مليار دولار أضرار، لكن قاضياً وحده يمكنه الإيقاف.
الذكاء الاصطناعي
بحسب تقارير، أطلع سام ألتمان موظفي OpenAI على ثلاث نهايات محتملة لأمان الذكاء الاصطناعي، إحداها مختبر واحد يستخدم ذكاءً ذاتي التحسين لتعطيل قدرات الحوسبة لدى الجميع.