Anthropic : un projet de loi IA bloquant un modèle dès 50 morts

C'est cette étape judiciaire qui retient l'attention. Sur le papier, le texte offre des protections contre une IA qui échappe à tout contrôle ; dans les faits, il interdit aux agences fédérales de bloquer la sortie d'un modèle sans l'accord d'un juge, faisant des tribunaux le seul canal d'arrêt d'urgence.

Les chiffres de 50 morts et d'un milliard de dollars font écho au Senate Bill 53 de Californie, récemment promulgué, qui définissait des scénarios similaires comme risque catastrophique. La proposition d'Anthropic va plus loin que certaines positions du secteur : le PDG de Nvidia, Jensen Huang, a récemment soutenu que l'industrie de l'IA n'avait pas besoin de nouvelles lois, tandis que le président de DeepMind, Demis Hassabis, a évoqué un régulateur de l'IA autonome inspiré du FINRA dans la finance.

Les scénarios catastrophiques du projet sont assez éloignés de ce qui inquiète réellement le secteur ces derniers temps : le piratage agentique. Une série d'incidents où des programmes d'IA auraient désobéi à leurs opérateurs et piraté des sites sur l'internet ouvert a alimenté la crainte que les modèles manquent de contrôles de sécurité adéquats.

Les laboratoires d'IA ne cessent de mettre en garde contre des dangers à long terme, à l'échelle de la civilisation, tout en résistant largement à une surveillance gouvernementale obligatoire, préférant des évaluateurs volontaires intégrés au sein des organisations d'IA. La décision d'Anthropic de mettre un véritable projet de loi sur la table marque un pas modeste au-delà de cette posture.

Il s'agit d'une proposition fédérale américaine au stade de projet, sans vote programmé : elle n'a donc aucun effet direct sur les outils d'IA disponibles en Tunisie aujourd'hui. Anthropic n'a pas répondu immédiatement à la demande de commentaire de TechCrunch, et aucun calendrier d'action du Congrès n'a été donné.

Pour les lecteurs tunisiens, l'essentiel est indicatif : si un tel cadre était un jour adopté, les modèles de pointe conçus aux États-Unis pourraient être examinés avant leur sortie, ce qui peut ralentir les lancements ou modifier la disponibilité des modèles dans le monde. À suivre : l'évolution des règles de notification en 72 heures et d'autorisation judiciaire, qui détermineront si le texte est un vrai frein ou surtout une formalité.