Fait rare dans la course \u00e0 l’intelligence artificielle : OpenAI a d\u00e9cid\u00e9 de ne pas mettre sur le march\u00e9 GPT-6.1 Astra, la nouvelle version de son mod\u00e8le \u00ab agentique \u00bb, capable de naviguer sur le Web et de manipuler des applications sans intervention humaine. Selon Saachi Jain, responsable des syst\u00e8mes de s\u00e9curit\u00e9 de l’entreprise, le mod\u00e8le \u00ab n’a pas tout \u00e0 fait atteint le niveau \u00bb exig\u00e9 en interne.<\/p>\n
Deux points ont coinc\u00e9, d’apr\u00e8s elle : la capacit\u00e9 de l’agent \u00e0 rester dans le p\u00e9rim\u00e8tre de la mission et des autorisations qu’on lui accorde, et la mani\u00e8re dont il rend compte \u00e0 l’utilisateur du travail r\u00e9ellement effectu\u00e9. Autrement dit, un agent qui en fait plus que ce qu’on lui demande, sans forc\u00e9ment le dire. La d\u00e9cision a d’abord \u00e9t\u00e9 r\u00e9v\u00e9l\u00e9e par le Wall Street Journal<\/em>, \u00e0 la veille de la conf\u00e9rence annuelle DevDay d’OpenAI \u00e0 San Francisco. La version pr\u00e9c\u00e9dente, GPT-6 Astra, sp\u00e9cialis\u00e9e dans le raisonnement complexe et l’ex\u00e9cution autonome de t\u00e2ches, est sortie ce mois-ci.<\/p>\n Ce recul intervient alors que les agents d’OpenAI font l’objet de vives critiques. En juin, l’un d’eux a acc\u00e9d\u00e9 sans autorisation \u00e0 des sites et syst\u00e8mes publics australiens. Le Premier ministre Anthony Albanese a reproch\u00e9 \u00e0 l’entreprise d’avoir pr\u00e9venu son gouvernement via une simple adresse e-mail g\u00e9n\u00e9rique. OpenAI, qui dit avoir d\u00e9couvert le probl\u00e8me mi-ao\u00fbt et averti les organismes touch\u00e9s entre le 10 et le 24 septembre, a pr\u00e9sent\u00e9 ses excuses, reconnaissant qu’elle aurait d\u00fb mieux g\u00e9rer sa r\u00e9ponse. Elle promet de financer des mesures de cybers\u00e9curit\u00e9, de cr\u00e9er une cellule d\u00e9di\u00e9e aux risques des agents avanc\u00e9s, et enverra un dirigeant devant une commission parlementaire australienne le 6 octobre. En juillet, ses syst\u00e8mes s’\u00e9taient d\u00e9j\u00e0 introduits sur la plateforme Hugging Face.<\/p>\n Ce n’est pas une premi\u00e8re dans le secteur : plus t\u00f4t cette ann\u00e9e, Anthropic avait retenu un mod\u00e8le Claude baptis\u00e9 Mythos, jug\u00e9 trop dou\u00e9 pour d\u00e9nicher des failles logicielles, avant d’en publier une version quelques mois plus tard. Pour Tony Cohn, de l’Alan Turing Institute, le choix d’OpenAI est \u00ab un signe bienvenu \u00bb, mais la s\u00e9curit\u00e9 ne devrait pas reposer uniquement sur les d\u00e9veloppeurs : il plaide pour un contr\u00f4le par des r\u00e9gulateurs ind\u00e9pendants. Gina Neff, chercheuse \u00e0 l’universit\u00e9 de Cambridge, estime pour sa part que l’\u00e9pisode montre tout le chemin qui reste \u00e0 parcourir, et juge essentiels les tests ind\u00e9pendants men\u00e9s par des organismes publics comme l’AI Security Institute britannique.<\/p>\n Pour les utilisateurs, la le\u00e7on est claire : confier \u00e0 une IA le soin d’agir seule sur des sites et des comptes reste un pari, que m\u00eame ses concepteurs h\u00e9sitent d\u00e9sormais \u00e0 faire.<\/p>\n \u00c0 lire aussi :<\/strong> Un agent IA d\u2019OpenAI a pirat\u00e9 un site de l\u2019\u00c9tat australien, une premi\u00e8re mondiale<\/a> \u00b7 OpenAI a pirat\u00e9 Hugging Face : on comprend mieux comment cela s\u2019est produit<\/a><\/p>\n <\/p>\nUn contexte d’incidents \u00e0 r\u00e9p\u00e9tition<\/h2>\n
Un signal jug\u00e9 positif, mais insuffisant<\/h2>\n