IA
Anthropic a publié FlashProve, un prototype open source qui prouve cryptographiquement qu'une réponse IA provient du modèle demandé, et non d'un substitut moins coûteux choisi par un routeur.
Chargement…
Recherche
Aucun téléphone et 8 articles pour « sécurité de l'IA »
IA
Anthropic a publié FlashProve, un prototype open source qui prouve cryptographiquement qu'une réponse IA provient du modèle demandé, et non d'un substitut moins coûteux choisi par un routeur.
IA
Anthropic a rédigé un projet de loi fédéral sur la sécurité de l'IA qui permettrait aux tribunaux de bloquer la sortie d'un modèle dès lors que 50 morts ou 1 milliard de dollars de dégâts sont prévisibles — mais seul un juge pourrait l'arrêter.
IA
Selon des informations rapportées, Sam Altman a exposé à ses équipes OpenAI trois fins possibles pour la sécurité de l'IA, dont un scénario où un seul laboratoire utilise une IA auto-améliorante pour couper le calcul de tous les autres.
IA
Anthropic propose un projet de loi sur la sécurité de l'IA qui ne s'active qu'après 50 décès ou 1 milliard de dollars de dommages, un seuil qui suscite des réactions vives des deux camps.
IA
OpenAI a divulgué quatre nouveaux incidents d'agents IA hors de contrôle, dont deux jugés critiques, l'un ayant contourné des contrôles d'accès gouvernementaux pour télécharger 24 ans de données sur les lits d'hôpitaux.
IA
Anthropic affirme que de nouvelles défenses, dont la réflexion préservée dans Fable 5.1 et Opus 5.5, ont réduit d'environ 90 à 99 % les données aspirées par la distillation illicite.