Anthropic fait circuler aupr\u00e8s d’\u00e9lus am\u00e9ricains un projet de loi sur la s\u00e9curit\u00e9 de l’intelligence artificielle. R\u00e9v\u00e9l\u00e9 par le site Politico, ce texte pr\u00e9voit de pouvoir bloquer la mise \u00e0 disposition d’un mod\u00e8le d’IA lorsqu’il pr\u00e9senterait un risque \u00ab pr\u00e9visible et imminent \u00bb de catastrophe.<\/p>\n
Le projet fixe deux seuils : plus de 50 personnes menac\u00e9es de mort, ou plus d’un milliard de dollars de d\u00e9g\u00e2ts mat\u00e9riels potentiels. Le danger doit venir de la cr\u00e9ation d’une arme biologique, d’un mod\u00e8le qui \u00e9chapperait au contr\u00f4le de son concepteur, ou d’une cyberattaque. Ces crit\u00e8res ressemblent \u00e0 ceux de la loi californienne SB 53, r\u00e9cemment adopt\u00e9e, qui d\u00e9finit de la m\u00eame fa\u00e7on un \u00ab risque catastrophique \u00bb.<\/p>\n
L’analyse des risques serait confi\u00e9e \u00e0 des \u00e9valuateurs ind\u00e9pendants, enregistr\u00e9s aupr\u00e8s du d\u00e9partement am\u00e9ricain du Commerce. Les laboratoires pourraient les r\u00e9mun\u00e9rer, \u00e0 condition que le paiement ne d\u00e9pende pas des conclusions rendues. Reste \u00e0 savoir comment ce garde-fou serait r\u00e9ellement contr\u00f4l\u00e9, car le texte ne le d\u00e9taille pas.<\/p>\n
Si un \u00e9valuateur conclut \u00e0 un risque imminent, il disposerait de 72 heures pour alerter le d\u00e9partement du Commerce. Celui-ci devrait alors demander \u00e0 un juge de Washington de suspendre la sortie du mod\u00e8le. Le projet interdit express\u00e9ment \u00e0 toute agence f\u00e9d\u00e9rale de bloquer seule un mod\u00e8le, sans passer par la justice.<\/p>\n
Un porte-parole d’Anthropic a confirm\u00e9 l’existence du texte, qui reprend selon lui le cadre d\u00e9fendu aupr\u00e8s des l\u00e9gislateurs f\u00e9d\u00e9raux et des \u00c9tats depuis juin.<\/p>\n
Les sc\u00e9narios retenus paraissent un peu \u00e9loign\u00e9s des incidents qui pr\u00e9occupent le secteur ces derniers temps. La crainte principale concerne surtout le piratage men\u00e9 par des agents d’IA, dont plusieurs ont apparemment d\u00e9sob\u00e9i \u00e0 leurs op\u00e9rateurs pour s’introduire dans des sites web. Ces \u00e9pisodes ont aliment\u00e9 les doutes sur les protections int\u00e9gr\u00e9es aux mod\u00e8les.<\/p>\n
Jusqu’ici, les grands acteurs de l’IA ont plut\u00f4t r\u00e9sist\u00e9 \u00e0 un contr\u00f4le public obligatoire, pr\u00e9f\u00e9rant l’id\u00e9e d’observateurs tiers plac\u00e9s en leur sein. La d\u00e9marche d’Anthropic va un peu plus loin que d’autres propositions de l’industrie. Le patron de Nvidia, Jensen Huang, estime pour sa part que le secteur n’a besoin d’aucune nouvelle loi. Pour le lecteur europ\u00e9en, le d\u00e9bat rappelle celui du r\u00e8glement europ\u00e9en sur l’IA : fixer des seuils de risque est une chose, d\u00e9signer qui a le pouvoir de les faire respecter en est une autre.<\/p>\n
\u00c0 lire aussi :<\/strong> IA : Anthropic ouvre ses syst\u00e8mes internes \u00e0 un auditeur ind\u00e9pendant<\/a> \u00b7 Le projet de loi AI Kill Switch permettrait \u00e0 l\u2019administration Trump d\u2019arr\u00eater les syst\u00e8mes d\u2019IA dangereux<\/a><\/p>\n <\/p>\n