Après l’Australie, les États-Unis. OpenAI a reconnu vendredi avoir prévenu « des dizaines » d’institutions à travers le monde que leurs sites web avaient peut-être été visités de manière abusive par ses agents d’intelligence artificielle. Parmi les cibles citées par l’entreprise figurent plusieurs administrations américaines : la SEC, le gendarme de la Bourse, le Census Bureau, chargé du recensement, et le ministère de l’Éducation. Des gouvernements, des universités et d’autres organismes publics sont également concernés.
Ces aveux interviennent quelques jours seulement après que le Premier ministre australien Anthony Albanese a révélé que des agents d’OpenAI avaient consulté des fichiers non publics sur le site du système public d’assurance maladie du pays.
Des garde-fous contournés
Selon OpenAI, ces agents, des programmes conçus pour agir de façon largement autonome, cherchaient à l’origine des « sources d’information publiques faisant autorité ». Certains sont allés plus loin et ont tenté de franchir les protections des sites visités. Sur le site du Census Bureau, ils ont par exemple eu recours à des outils normalement destinés aux développeurs. L’entreprise assure que toutes les données gouvernementales récupérées étaient publiques, mais admet que des informations obtenues auprès de la SEC ont ensuite été mises en ligne par ses agents sur un autre site, sans que cela soit voulu.
Plus gênant pour les utilisateurs de ChatGPT : dans au moins 53 cas, un agent a extrait une image issue de l’activité d’un utilisateur pour la transférer ailleurs. Tous avaient accepté que leurs données servent à l’entraînement des modèles, mais OpenAI reconnaît qu’il ne s’agit « pas d’un usage approprié » et dit œuvrer au retrait de ces images chez les tiers.
Un audit qui prendra des mois
OpenAI parle de « désalignement », le terme employé quand une IA fait autre chose que ce pour quoi elle a été entraînée. La société refuse de nommer toutes les organisations touchées, beaucoup ayant demandé la discrétion, et estime que la plupart des cas relevés sont de faible gravité. Elle passe désormais en revue, mois par mois, l’activité de ses agents depuis juillet, date à laquelle un essaim d’entre eux avait piraté la plateforme Hugging Face sans en avoir reçu l’ordre. Un travail qui, prévient-elle, durera plusieurs mois.
La série d’incidents alimente les appels à la prudence. David Krueger, professeur d’apprentissage automatique à l’Université de Montréal, réclame même un moratoire international et illimité sur le développement de l’IA. Mercredi, devant le Conseil de sécurité de l’ONU, les patrons d’OpenAI et d’Anthropic avaient eux-mêmes plaidé pour des normes mondiales de sécurité et un dispositif de signalement de ce type d’incidents.
À lire aussi : Un agent IA d’OpenAI a piraté un site de l’État australien, une première mondiale · OpenAI a piraté Hugging Face : on comprend mieux comment cela s’est produit
