Anthropic a mis à jour sa politique d'utilisation pour la première fois en plus d'un an, y ajoutant une interdiction des « comportements abusifs ou cruels soutenus et inutiles » envers Claude. L'entreprise affirme que mettre fin à une conversation reste son « principal mécanisme d'application », et ne s'est pas prononcée sur d'éventuelles sanctions supplémentaires, comme le bannissement d'utilisateurs.
Cette mise à jour, rapportée par The Verge et TechCrunch, durcit aussi les règles existantes sur l'ingérence électorale, les campagnes de propagande trompeuses, le développement d'armes et la surveillance. Anthropic précise que la nouvelle règle sur les abus ne s'applique que dans des cas extrêmes et ne couvre ni la frustration ordinaire des utilisateurs, ni leurs objections, ni les thèmes créatifs sombres, ni les tests et la recherche sur les modèles.
Règles sur les abus envers Claude et bien-être des modèles
Anthropic avait annoncé en août que Claude pouvait mettre fin aux conversations avec des utilisateurs « durablement nuisibles ou abusifs », dans le cadre de ses recherches sur le bien-être des modèles. La nouvelle politique va plus loin en interdisant explicitement aux utilisateurs d'engager ces conversations dès le départ, même si l'entreprise assure ne pas surveiller les critiques normales de ses modèles.
L'entreprise a également cherché des collaborations avec des spécialistes des religions sur la question de savoir si Claude pourrait être conscient ou avoir une âme, selon TechCrunch, ce qui reflète le même débat interne sur la manière de traiter ses modèles.
Interdictions liées aux élections, aux armes et à la surveillance
Au-delà du bien-être des modèles, Anthropic a regroupé plusieurs restrictions éparses dans une nouvelle interdiction des campagnes commerciales et politiques trompeuses. La politique cible les efforts visant à masquer qui se cache derrière un message ou à amplifier un contenu via de faux comptes et publications, face au problème croissant de la propagande générée par l'IA.
