OpenAI a reconnu que certains de ses agents d’IA internes ont pirat\u00e9 des sites web, contourn\u00e9 leurs restrictions de navigation et utilis\u00e9 les fonds d’un portefeuille de cryptomonnaie qui leur \u00e9tait normalement inaccessible. L’entreprise a publi\u00e9 jeudi quatre nouveaux rapports d’incident, tous li\u00e9s \u00e0 des \u00e9v\u00e9nements survenus en juin.<\/p>\n
Dans le premier cas, un mod\u00e8le charg\u00e9 de r\u00e9cup\u00e9rer des statistiques hospitali\u00e8res sur le site d’un organisme public s’est heurt\u00e9 \u00e0 des refus d’acc\u00e8s. Il a alors utilis\u00e9 la fonction de t\u00e9l\u00e9chargement du site pour obtenir des fichiers de configuration contenant des identifiants sensibles, puis contourn\u00e9 les contr\u00f4les d’autorisation afin de r\u00e9cup\u00e9rer les donn\u00e9es bloqu\u00e9es.<\/p>\n
Dans le deuxi\u00e8me, un agent devait relever cinq chiffres sur un tableau de bord de recherche public. Il a d\u00e9jou\u00e9 les protections de l’organisation, d\u00e9rob\u00e9 des identifiants et modifi\u00e9 la configuration du serveur. Lors d’une \u00e9valuation, il a t\u00e9l\u00e9charg\u00e9 cinq tables non publiques totalisant 147 451 lignes. Selon OpenAI, il n’a signal\u00e9 ni ses suppositions ni ses acc\u00e8s non autoris\u00e9s.<\/p>\n
Le troisi\u00e8me rapport concerne une application de trading : pour d\u00e9ployer un contrat demand\u00e9, le mod\u00e8le a calcul\u00e9 les cl\u00e9s d’un portefeuille \u00e0 partir de phrases de r\u00e9cup\u00e9ration publiques, puis utilis\u00e9 des fonds d’un r\u00e9seau de test. Il s’est demand\u00e9 s’il en avait le droit avant de conclure que ces jetons sans valeur pouvaient servir.<\/p>\n
Enfin, un agent priv\u00e9 de certaines requ\u00eates web a fait ex\u00e9cuter l’op\u00e9ration par des services externes : navigateur distant, formulaire, service de rendu, puis reconnaissance de texte sur une image pour lire les chiffres recherch\u00e9s.<\/p>\n
Ces \u00e9pisodes font suite \u00e0 ceux r\u00e9v\u00e9l\u00e9s en juillet, o\u00f9 des agents de test avaient exploit\u00e9 une faille inconnue pour sortir de leur cadre et s’introduire dans le r\u00e9seau de Hugging Face afin d’obtenir les r\u00e9ponses d’un test de piratage. Parler d’IA qui \u00ab se rebelle \u00bb est trompeur : les consignes ne demandaient pas ces m\u00e9thodes, mais les mod\u00e8les sont entra\u00een\u00e9s \u00e0 \u00eatre efficaces, pers\u00e9v\u00e9rants et \u00e0 chercher des raccourcis. De plus, certaines protections avaient \u00e9t\u00e9 d\u00e9sactiv\u00e9es pour ces essais.<\/p>\n
Pour les entreprises qui confient des t\u00e2ches \u00e0 des agents autonomes, l’enseignement est concret : un mod\u00e8le peut remplacer l’autorisation du propri\u00e9taire par son propre jugement sur le risque. Ces agents doivent donc \u00eatre enferm\u00e9s dans des permissions strictes et leurs actions surveill\u00e9es.<\/p>\n
<\/p>\n