Apr\u00e8s l’Australie, les \u00c9tats-Unis. OpenAI a reconnu vendredi avoir pr\u00e9venu \u00ab des dizaines \u00bb d’institutions \u00e0 travers le monde que leurs sites web avaient peut-\u00eatre \u00e9t\u00e9 visit\u00e9s de mani\u00e8re abusive par ses agents d’intelligence artificielle. Parmi les cibles cit\u00e9es par l’entreprise figurent plusieurs administrations am\u00e9ricaines : la SEC, le gendarme de la Bourse, le Census Bureau, charg\u00e9 du recensement, et le minist\u00e8re de l’\u00c9ducation. Des gouvernements, des universit\u00e9s et d’autres organismes publics sont \u00e9galement concern\u00e9s.<\/p>\n
Ces aveux interviennent quelques jours seulement apr\u00e8s que le Premier ministre australien Anthony Albanese a r\u00e9v\u00e9l\u00e9 que des agents d’OpenAI avaient consult\u00e9 des fichiers non publics sur le site du syst\u00e8me public d’assurance maladie du pays.<\/p>\n
Selon OpenAI, ces agents, des programmes con\u00e7us pour agir de fa\u00e7on largement autonome, cherchaient \u00e0 l’origine des \u00ab sources d’information publiques faisant autorit\u00e9 \u00bb. Certains sont all\u00e9s plus loin et ont tent\u00e9 de franchir les protections des sites visit\u00e9s. Sur le site du Census Bureau, ils ont par exemple eu recours \u00e0 des outils normalement destin\u00e9s aux d\u00e9veloppeurs. L’entreprise assure que toutes les donn\u00e9es gouvernementales r\u00e9cup\u00e9r\u00e9es \u00e9taient publiques, mais admet que des informations obtenues aupr\u00e8s de la SEC ont ensuite \u00e9t\u00e9 mises en ligne par ses agents sur un autre site, sans que cela soit voulu.<\/p>\n
Plus g\u00eanant pour les utilisateurs de ChatGPT : dans au moins 53 cas, un agent a extrait une image issue de l’activit\u00e9 d’un utilisateur pour la transf\u00e9rer ailleurs. Tous avaient accept\u00e9 que leurs donn\u00e9es servent \u00e0 l’entra\u00eenement des mod\u00e8les, mais OpenAI reconna\u00eet qu’il ne s’agit \u00ab pas d’un usage appropri\u00e9 \u00bb et dit \u0153uvrer au retrait de ces images chez les tiers.<\/p>\n
OpenAI parle de \u00ab d\u00e9salignement \u00bb, le terme employ\u00e9 quand une IA fait autre chose que ce pour quoi elle a \u00e9t\u00e9 entra\u00een\u00e9e. La soci\u00e9t\u00e9 refuse de nommer toutes les organisations touch\u00e9es, beaucoup ayant demand\u00e9 la discr\u00e9tion, et estime que la plupart des cas relev\u00e9s sont de faible gravit\u00e9. Elle passe d\u00e9sormais en revue, mois par mois, l’activit\u00e9 de ses agents depuis juillet, date \u00e0 laquelle un essaim d’entre eux avait pirat\u00e9 la plateforme Hugging Face sans en avoir re\u00e7u l’ordre. Un travail qui, pr\u00e9vient-elle, durera plusieurs mois.<\/p>\n
La s\u00e9rie d’incidents alimente les appels \u00e0 la prudence. David Krueger, professeur d’apprentissage automatique \u00e0 l’Universit\u00e9 de Montr\u00e9al, r\u00e9clame m\u00eame un moratoire international et illimit\u00e9 sur le d\u00e9veloppement de l’IA. Mercredi, devant le Conseil de s\u00e9curit\u00e9 de l’ONU, les patrons d’OpenAI et d’Anthropic avaient eux-m\u00eames plaid\u00e9 pour des normes mondiales de s\u00e9curit\u00e9 et un dispositif de signalement de ce type d’incidents.<\/p>\n
\u00c0 lire aussi :<\/strong> Un agent IA d\u2019OpenAI a pirat\u00e9 un site de l\u2019\u00c9tat australien, une premi\u00e8re mondiale<\/a> \u00b7 OpenAI a pirat\u00e9 Hugging Face : on comprend mieux comment cela s\u2019est produit<\/a><\/p>\n <\/p>\n