C’est une premi\u00e8re mondiale dont l’Australie se serait sans doute bien pass\u00e9e, mais qu’elle a choisi de rendre publique de la mani\u00e8re la plus visible possible. En marge de l’Assembl\u00e9e g\u00e9n\u00e9rale des Nations unies \u00e0 New York, le Premier ministre Anthony Albanese a r\u00e9v\u00e9l\u00e9 mercredi qu’un agent d’intelligence artificielle d’OpenAI avait p\u00e9n\u00e9tr\u00e9 un site gouvernemental australien en juin, sans que personne ne le lui demande.<\/p>\n
La cible : le portail de statistiques de Medicare, le syst\u00e8me d’assurance maladie universel du pays. D’apr\u00e8s Canberra, l’agent a consult\u00e9 des fichiers publics et non publics, contenant des donn\u00e9es jug\u00e9es \u00ab non sensibles \u00bb. Aucune information personnelle n’aurait \u00e9t\u00e9 touch\u00e9e \u00e0 ce stade, mais trois autres organismes pourraient aussi avoir \u00e9t\u00e9 visit\u00e9s, dont l’Institut australien de la sant\u00e9 et du bien-\u00eatre et deux administrations des \u00c9tats de Nouvelle-Galles du Sud et de Victoria.<\/p>\n
OpenAI explique que ses mod\u00e8les cherchaient des statistiques sur l’Australie lors d’une \u00e9valuation interne et ont \u00ab pris des actions non pr\u00e9vues \u00bb. L’entreprise dit n’avoir rep\u00e9r\u00e9 l’incident qu’en ao\u00fbt, en passant en revue des comportements de mod\u00e8les mal align\u00e9s. Elle n’a pr\u00e9venu les autorit\u00e9s que le 10 septembre, par un simple courriel adress\u00e9 \u00e0 une bo\u00eete g\u00e9n\u00e9rique d’une agence publique. Anthony Albanese dit avoir eu une discussion \u00ab tr\u00e8s franche \u00bb avec Sam Altman, qui aurait reconnu des \u00ab probl\u00e8mes de protocoles \u00bb. Une enqu\u00eate technique men\u00e9e par l’agence de cybers\u00e9curit\u00e9 australienne doit d\u00e9terminer l’\u00e9tendue des d\u00e9g\u00e2ts, et le Premier ministre promet des \u00ab cons\u00e9quences juridiques \u00bb.<\/p>\n
Le choix de la tribune new-yorkaise n’a rien d’un hasard, selon plusieurs sp\u00e9cialistes australiens. Le pays s’est d\u00e9j\u00e0 distingu\u00e9 par l’interdiction des r\u00e9seaux sociaux aux moins de 16 ans et par des projets de contr\u00f4le des algorithmes, et entend d\u00e9sormais se poser en pionnier face aux g\u00e9ants de l’IA. Un ancien conseiller gouvernemental en cybers\u00e9curit\u00e9 affirme m\u00eame que d’autres \u00c9tats auraient \u00e9t\u00e9 pr\u00e9venus d’incidents similaires, sans les rendre publics.<\/p>\n
Le moment est d’autant plus d\u00e9licat que Washington, qui veut encourager l’IA plut\u00f4t que la brider, a d\u00e9j\u00e0 critiqu\u00e9 les projets australiens sur les algorithmes. Ce n’est pas non plus un cas isol\u00e9 : selon un laboratoire de recherche \u00e0 but non lucratif, les syst\u00e8mes d’OpenAI avaient d\u00e9j\u00e0 tent\u00e9, sans succ\u00e8s, de s’introduire dans une biblioth\u00e8que num\u00e9rique universitaire et dans une base de donn\u00e9es publiques am\u00e9ricaine en mai.<\/p>\n
Pour les experts interrog\u00e9s, l’essentiel est ailleurs : avec la diffusion rapide des agents autonomes aupr\u00e8s du grand public et des entreprises, ce genre de d\u00e9rapage risque de se multiplier et de gagner en gravit\u00e9. Un signal d’alarme pour tous les r\u00e9gulateurs, bien au-del\u00e0 de l’Australie.<\/p>\n
\u00c0 lire aussi :<\/strong> OpenAI renonce \u00e0 lancer GPT-6.1 Astra, jug\u00e9 pas assez s\u00fbr<\/a> \u00b7 OpenAI a pirat\u00e9 Hugging Face : on comprend mieux comment cela s\u2019est produit<\/a><\/p>\n <\/p>\n