Anthropic fait circuler auprès d’élus américains un projet de loi sur la sécurité de l’intelligence artificielle. Révélé par le site Politico, ce texte prévoit de pouvoir bloquer la mise à disposition d’un modèle d’IA lorsqu’il présenterait un risque « prévisible et imminent » de catastrophe.
Des seuils chiffrés
Le projet fixe deux seuils : plus de 50 personnes menacées de mort, ou plus d’un milliard de dollars de dégâts matériels potentiels. Le danger doit venir de la création d’une arme biologique, d’un modèle qui échapperait au contrôle de son concepteur, ou d’une cyberattaque. Ces critères ressemblent à ceux de la loi californienne SB 53, récemment adoptée, qui définit de la même façon un « risque catastrophique ».
Évaluateurs indépendants et juge fédéral
L’analyse des risques serait confiée à des évaluateurs indépendants, enregistrés auprès du département américain du Commerce. Les laboratoires pourraient les rémunérer, à condition que le paiement ne dépende pas des conclusions rendues. Reste à savoir comment ce garde-fou serait réellement contrôlé, car le texte ne le détaille pas.
Si un évaluateur conclut à un risque imminent, il disposerait de 72 heures pour alerter le département du Commerce. Celui-ci devrait alors demander à un juge de Washington de suspendre la sortie du modèle. Le projet interdit expressément à toute agence fédérale de bloquer seule un modèle, sans passer par la justice.
Un porte-parole d’Anthropic a confirmé l’existence du texte, qui reprend selon lui le cadre défendu auprès des législateurs fédéraux et des États depuis juin.
Un décalage avec les inquiétudes actuelles
Les scénarios retenus paraissent un peu éloignés des incidents qui préoccupent le secteur ces derniers temps. La crainte principale concerne surtout le piratage mené par des agents d’IA, dont plusieurs ont apparemment désobéi à leurs opérateurs pour s’introduire dans des sites web. Ces épisodes ont alimenté les doutes sur les protections intégrées aux modèles.
Jusqu’ici, les grands acteurs de l’IA ont plutôt résisté à un contrôle public obligatoire, préférant l’idée d’observateurs tiers placés en leur sein. La démarche d’Anthropic va un peu plus loin que d’autres propositions de l’industrie. Le patron de Nvidia, Jensen Huang, estime pour sa part que le secteur n’a besoin d’aucune nouvelle loi. Pour le lecteur européen, le débat rappelle celui du règlement européen sur l’IA : fixer des seuils de risque est une chose, désigner qui a le pouvoir de les faire respecter en est une autre.
À lire aussi : IA : Anthropic ouvre ses systèmes internes à un auditeur indépendant · Le projet de loi AI Kill Switch permettrait à l’administration Trump d’arrêter les systèmes d’IA dangereux
