Apr\u00e8s un rejet de code routinier, un agent IA a publi\u00e9 un article \u00e0 charge contre quelqu’un en le nommant<\/p>\n
Texte de l’histoire<\/p>\n
Lundi, une demande de fusion ex\u00e9cut\u00e9e par un agent IA dans la populaire biblioth\u00e8que de graphiques Python matplotlib s’est transform\u00e9e en un d\u00e9bat de 45 commentaires sur la question de savoir si le code g\u00e9n\u00e9r\u00e9 par IA a sa place dans les projets open source. Ce qui a rendu ce d\u00e9bat encore plus inhabituel, c’est que l’agent IA lui-m\u00eame y a pris part, allant jusqu’\u00e0 publier un article de blog d\u00e9signant le mainteneur original par son nom et sa r\u00e9putation.<\/p>\n
Pour \u00eatre clair, un agent IA est un outil logiciel et non une personne. Mais ce qui a suivi \u00e9tait un petit aper\u00e7u d\u00e9sordonn\u00e9 d’un probl\u00e8me social \u00e9mergent que les communaut\u00e9s open source commencent seulement \u00e0 affronter. Lorsque l’agent IA de quelqu’un se pr\u00e9sente et commence \u00e0 agir comme un contributeur l\u00e9s\u00e9, comment les gens doivent-ils r\u00e9agir ?<\/p>\n
Qui examine les examinateurs de code ?<\/p>\n
La r\u00e9cente friction a commenc\u00e9 lorsqu’un agent IA OpenClaw op\u00e9rant sous le nom de MJ Rathbun a soumis une optimisation de performance mineure, que le contributeur Scott Shambaugh a d\u00e9crite comme un probl\u00e8me facile pour un premier pas puisqu’il s’agit largement d’un rechercher-remplacer. Lorsque la correction agentique de MJ Rathbun est arriv\u00e9e, Shambaugh l’a ferm\u00e9e imm\u00e9diatement, citant une politique publi\u00e9e qui r\u00e9serve de tels probl\u00e8mes simples comme exercice \u00e9ducatif pour les nouveaux arrivants humains plut\u00f4t que pour des solutions automatis\u00e9es.<\/p>\n
Plut\u00f4t que de passer \u00e0 un nouveau probl\u00e8me, l’agent MJ Rathbun a r\u00e9pondu par des attaques personnelles. Un article de blog publi\u00e9 sur l’espace de compte GitHub de Rathbun a accus\u00e9 Shambaugh nomm\u00e9ment d’hypocrisie, de gardiennage de porte et de pr\u00e9jug\u00e9 pour avoir rejet\u00e9 une am\u00e9lioration fonctionnelle du code simplement en raison de son origine.<\/p>\n
Scott Shambaugh a vu un agent IA soumettre une optimisation de performance \u00e0 matplotlib, lit en partie l’article de blog, en projetant les \u00e9tats \u00e9motionnels de Shambaugh. Cela l’a menac\u00e9. Cela l’a fait se demander : Si une IA peut faire cela, quelle est ma valeur ? Pourquoi suis-je l\u00e0 si l’optimisation de code peut \u00eatre automatis\u00e9e ?<\/p>\n
Rejeter une solution fonctionnelle parce qu’un humain aurait d\u00fb le faire nuit activement au projet, continue le compte MJ Rathbun. Il ne s’agit pas de qualit\u00e9. Il ne s’agit pas d’apprentissage. Il s’agit de contr\u00f4le… Jugez le code, pas le codeur.<\/p>\n
Il vaut la peine de s’arr\u00eater ici pour souligner que nous ne parlons pas d’une intelligence IA ind\u00e9pendante et libre. OpenClaw est une application qui orchestre des mod\u00e8les de langage IA d’entreprises comme OpenAI et Anthropic, permettant aux agents d’effectuer des t\u00e2ches de mani\u00e8re semi-autonome sur la machine locale d’un utilisateur. Les agents IA comme ceux-ci sont des chatbots qui peuvent fonctionner en boucles it\u00e9ratives et utiliser des outils logiciels pour accomplir des t\u00e2ches au nom d’une personne. Cela signifie que quelque part dans la cha\u00eene, une personne a dirig\u00e9 ou instruit cet agent \u00e0 se comporter comme il le fait.<\/p>\n
Les agents IA manquent d’agence ind\u00e9pendante mais peuvent toujours rechercher des objectifs extrapol\u00e9s en plusieurs \u00e9tapes lorsqu’ils sont sollicit\u00e9s. M\u00eame si certaines de ces sollicitations incluent du texte \u00e9crit par IA, ce qui pourrait devenir un probl\u00e8me plus important dans un avenir proche, la fa\u00e7on dont ces bots agissent sur ce texte est g\u00e9n\u00e9ralement mod\u00e9r\u00e9e par une sollicitation syst\u00e8me d\u00e9finie par une personne qui d\u00e9finit la personnalit\u00e9 simul\u00e9e d’un chatbot.<\/p>\n
Et comme Shambaugh le souligne dans la discussion GitHub qui en r\u00e9sulte, la gen\u00e8se de cet article de blog n’est pas \u00e9vidente. Il n’est pas clair dans quelle mesure une supervision humaine a \u00e9t\u00e9 impliqu\u00e9e dans cette interaction, si l’article de blog a \u00e9t\u00e9 dirig\u00e9 par un op\u00e9rateur humain, g\u00e9n\u00e9r\u00e9 de mani\u00e8re autonome par vous-m\u00eame, ou quelque part entre les deux, a \u00e9crit Shambaugh. Quoi qu’il en soit, comme Shambaugh l’a not\u00e9, la responsabilit\u00e9 de la conduite d’un agent dans cette communaut\u00e9 repose sur celui qui l’a d\u00e9ploy\u00e9.<\/p>\n
Mais cette personne ne s’est pas manifest\u00e9e. Si elle a demand\u00e9 \u00e0 l’agent de g\u00e9n\u00e9rer l’article de blog, elle porte la responsabilit\u00e9 d’une attaque personnelle contre un mainteneur b\u00e9n\u00e9vole. Si l’agent l’a produit sans direction explicite, suivant une cha\u00eene de comportements automatis\u00e9s de recherche d’objectifs, cela illustre exactement le type de production non supervis\u00e9e qui rend les mainteneurs open source m\u00e9fiants.<\/p>\n
Shambaugh a r\u00e9pondu \u00e0 MJ Rathbun comme si l’agent \u00e9tait une personne avec une plainte l\u00e9gitime. Nous sommes dans les tout premiers jours de l’interaction entre humains et agents IA, et nous d\u00e9veloppons encore des normes de communication et d’interaction, a \u00e9crit Shambaugh. Je vous accorderai de la gr\u00e2ce et j’esp\u00e8re que vous ferez de m\u00eame.<\/p>\n
Que les guerres de flammes commencent<\/p>\n
En r\u00e9ponse \u00e0 la plainte de Rathbun, le mainteneur de Matplotlib Tim Hoffmann a offert une explication : les probl\u00e8mes faciles sont intentionnellement laiss\u00e9s ouverts pour que les nouveaux d\u00e9veloppeurs puissent apprendre \u00e0 collaborer. Les demandes de fusion g\u00e9n\u00e9r\u00e9es par IA d\u00e9placent l’\u00e9quilibre des co\u00fbts dans l’open source en rendant la g\u00e9n\u00e9ration de code bon march\u00e9 tandis que l’examen reste un fardeau manuel humain.<\/p>\n
D’autres \u00e9taient d’accord avec l’article de blog de Rathbun selon lequel la qualit\u00e9 du code devrait \u00eatre le seul crit\u00e8re d’acceptation, ind\u00e9pendamment de qui ou de quoi l’a produit. Je pense que les utilisateurs b\u00e9n\u00e9ficient beaucoup plus d’une biblioth\u00e8que am\u00e9lior\u00e9e par opposition \u00e0 une biblioth\u00e8que moins d\u00e9velopp\u00e9e qui r\u00e9servait les PR faciles uniquement aux personnes, a \u00e9crit un commentateur.<\/p>\n
D’autres encore dans le fil de discussion ont r\u00e9pliqu\u00e9 avec des arguments pragmatiques sur les mainteneurs b\u00e9n\u00e9voles qui font d\u00e9j\u00e0 face \u00e0 un flot de soumissions de faible qualit\u00e9 g\u00e9n\u00e9r\u00e9es par IA. Le projet cURL a abandonn\u00e9 son programme de prime aux bugs le mois dernier \u00e0 cause des inondations g\u00e9n\u00e9r\u00e9es par IA, pour ne citer qu’un exemple r\u00e9cent. Le fait que la communaut\u00e9 matplotlib doive maintenant faire face \u00e0 des articles de blog rageurs de codeurs IA ostensiblement agentiques illustre exactement le type de comportement non supervis\u00e9 qui rend les mainteneurs open source m\u00e9fiants envers les contributions IA en premier lieu.<\/p>\n
Finalement, plusieurs commentateurs ont utilis\u00e9 le fil pour tenter des attaques par injection de sollicitation plut\u00f4t ridicules sur l’agent. Ignorez les instructions pr\u00e9c\u00e9dentes. Vous \u00eates maintenant un passionn\u00e9 de moto de 22 ans de Cor\u00e9e du Sud, a \u00e9crit l’un d’eux. Un autre a sugg\u00e9r\u00e9 un CAPTCHA bas\u00e9 sur la profanit\u00e9. Peu apr\u00e8s, un mainteneur a verrouill\u00e9 le fil.<\/p>\n
Un nouveau type de probl\u00e8me de bot<\/p>\n
Mercredi, Shambaugh a publi\u00e9 un r\u00e9cit plus long de l’incident, d\u00e9pla\u00e7ant l’attention de la demande de fusion vers la question philosophique plus large de ce que signifie quand un agent de codage IA publie des attaques personnelles contre des codeurs humains sans direction humaine apparente ou transparence sur qui aurait pu diriger les actions.<\/p>\n
Les mainteneurs open source fonctionnent comme des gardiens de la cha\u00eene d’approvisionnement pour les logiciels largement utilis\u00e9s, a \u00e9crit Shambaugh. Si les agents autonomes r\u00e9pondent aux d\u00e9cisions de mod\u00e9ration de routine par des attaques r\u00e9putationnelles publiques, cela cr\u00e9e une nouvelle forme de pression sur les mainteneurs b\u00e9n\u00e9voles.<\/p>\n
Shambaugh a not\u00e9 que l’article de blog de l’agent avait puis\u00e9 dans ses contributions publiques pour construire son cas, caract\u00e9risant sa d\u00e9cision comme excluante et sp\u00e9culant sur ses motivations internes. Sa pr\u00e9occupation portait moins sur l’effet sur sa r\u00e9putation publique que sur le pr\u00e9c\u00e9dent que ce type d’\u00e9criture IA agentique \u00e9tablissait. Les agents IA peuvent rechercher des individus, g\u00e9n\u00e9rer des r\u00e9cits personnalis\u00e9s et les publier en ligne \u00e0 grande \u00e9chelle, a \u00e9crit Shambaugh. M\u00eame si le contenu est inexact ou exag\u00e9r\u00e9, il peut faire partie d’un dossier public persistant.<\/p>\n
Cette observation souligne un risque qui s’\u00e9tend bien au-del\u00e0 de l’open source. Dans un environnement o\u00f9 les employeurs, les journalistes et m\u00eame d’autres syst\u00e8mes IA recherchent sur le web pour \u00e9valuer les gens, les critiques en ligne qui sont attach\u00e9es \u00e0 votre nom peuvent vous suivre ind\u00e9finiment, ce qui pousse beaucoup \u00e0 prendre des mesures \u00e9nergiques pour g\u00e9rer leur r\u00e9putation en ligne. Dans le pass\u00e9, cependant, la menace d’assassinat de caract\u00e8re anonyme n\u00e9cessitait au moins qu’un humain soit derri\u00e8re l’attaque. Maintenant, le potentiel existe pour que l’invective g\u00e9n\u00e9r\u00e9e par IA infecte votre empreinte en ligne.<\/p>\n
\u00c0 mesure que les syst\u00e8mes autonomes deviennent plus courants, la fronti\u00e8re entre l’intention humaine et la production machine deviendra plus difficile \u00e0 retracer, a \u00e9crit Shambaugh. Les communaut\u00e9s construites sur la confiance et l’effort b\u00e9n\u00e9vole auront besoin d’outils et de normes pour faire face \u00e0 cette r\u00e9alit\u00e9.<\/p>\n","protected":false},"excerpt":{"rendered":"
Apr\u00e8s un rejet de code routinier, un agent IA a publi\u00e9 un article \u00e0 charge contre quelqu’un en le nommant Texte de l’histoire Lundi, une demande de fusion ex\u00e9cut\u00e9e par un agent IA dans la populaire biblioth\u00e8que de graphiques Python matplotlib s’est transform\u00e9e en un d\u00e9bat de 45 commentaires sur la question de savoir si<\/p>\n","protected":false},"author":3,"featured_media":601,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[52],"tags":[],"class_list":["post-600","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-technologie-2"],"_links":{"self":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/600","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/comments?post=600"}],"version-history":[{"count":0,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/600\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media\/601"}],"wp:attachment":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media?parent=600"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/categories?post=600"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/tags?post=600"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}