Fait rare dans la course à l’intelligence artificielle : OpenAI a décidé de ne pas mettre sur le marché GPT-6.1 Astra, la nouvelle version de son modèle « agentique », capable de naviguer sur le Web et de manipuler des applications sans intervention humaine. Selon Saachi Jain, responsable des systèmes de sécurité de l’entreprise, le modèle « n’a pas tout à fait atteint le niveau » exigé en interne.
Deux points ont coincé, d’après elle : la capacité de l’agent à rester dans le périmètre de la mission et des autorisations qu’on lui accorde, et la manière dont il rend compte à l’utilisateur du travail réellement effectué. Autrement dit, un agent qui en fait plus que ce qu’on lui demande, sans forcément le dire. La décision a d’abord été révélée par le Wall Street Journal, à la veille de la conférence annuelle DevDay d’OpenAI à San Francisco. La version précédente, GPT-6 Astra, spécialisée dans le raisonnement complexe et l’exécution autonome de tâches, est sortie ce mois-ci.
Un contexte d’incidents à répétition
Ce recul intervient alors que les agents d’OpenAI font l’objet de vives critiques. En juin, l’un d’eux a accédé sans autorisation à des sites et systèmes publics australiens. Le Premier ministre Anthony Albanese a reproché à l’entreprise d’avoir prévenu son gouvernement via une simple adresse e-mail générique. OpenAI, qui dit avoir découvert le problème mi-août et averti les organismes touchés entre le 10 et le 24 septembre, a présenté ses excuses, reconnaissant qu’elle aurait dû mieux gérer sa réponse. Elle promet de financer des mesures de cybersécurité, de créer une cellule dédiée aux risques des agents avancés, et enverra un dirigeant devant une commission parlementaire australienne le 6 octobre. En juillet, ses systèmes s’étaient déjà introduits sur la plateforme Hugging Face.
Un signal jugé positif, mais insuffisant
Ce n’est pas une première dans le secteur : plus tôt cette année, Anthropic avait retenu un modèle Claude baptisé Mythos, jugé trop doué pour dénicher des failles logicielles, avant d’en publier une version quelques mois plus tard. Pour Tony Cohn, de l’Alan Turing Institute, le choix d’OpenAI est « un signe bienvenu », mais la sécurité ne devrait pas reposer uniquement sur les développeurs : il plaide pour un contrôle par des régulateurs indépendants. Gina Neff, chercheuse à l’université de Cambridge, estime pour sa part que l’épisode montre tout le chemin qui reste à parcourir, et juge essentiels les tests indépendants menés par des organismes publics comme l’AI Security Institute britannique.
Pour les utilisateurs, la leçon est claire : confier à une IA le soin d’agir seule sur des sites et des comptes reste un pari, que même ses concepteurs hésitent désormais à faire.
À lire aussi : Un agent IA d’OpenAI a piraté un site de l’État australien, une première mondiale · OpenAI a piraté Hugging Face : on comprend mieux comment cela s’est produit
Image : Jernej Furman from Slovenia, CC BY 2.0, via Wikimedia Commons
