Le serveur de pr\u00e9publications arXiv interdira les soumetteurs d’hallucinations g\u00e9n\u00e9r\u00e9es par IA<\/p>\n
Le serveur de pr\u00e9publications arXiv, tr\u00e8s respect\u00e9, annonce qu’il interdira les auteurs qui soumettent des articles contenant de fausses r\u00e9f\u00e9rences g\u00e9n\u00e9r\u00e9es par intelligence artificielle, qualifiant le probl\u00e8me de \u00ab tr\u00e8s pr\u00e9occupant \u00bb.<\/p>\n
Dans une d\u00e9claration politique publi\u00e9e le 15 janvier, arXiv a d\u00e9crit ses nouvelles directives pour lutter contre les hallucinations de l’IA, un terme d\u00e9signant les fausses informations g\u00e9n\u00e9r\u00e9es par les grands mod\u00e8les de langage et autres outils d’IA.<\/p>\n
\u00ab Les r\u00e9f\u00e9rences fabriqu\u00e9es par l’IA constituent une violation grave des normes scientifiques et acad\u00e9miques \u00bb, a \u00e9clar\u00e9 arXiv. \u00ab De telles violations, lorsqu’elles sont d\u00e9tect\u00e9es, entra\u00eeneront le retrait des soumissions et, dans les cas graves, l’interdiction de soumettre de l’auteur. \u00bb<\/p>\n
Les hallucinations de l’IA peuvent prendre plusieurs formes. L’une des plus courantes est celle des fausses r\u00e9f\u00e9rences dans les listes bibliographiques. Les grands mod\u00e8les de langage comme ChatGPT peuvent g\u00e9n\u00e9rer des citations d’apparence authentique pour des articles scientifiques qui n’existent pas r\u00e9ellement.<\/p>\n
\u00ab Nous avons observ\u00e9 une augmentation de la fr\u00e9quence \u00e0 laquelle ces r\u00e9f\u00e9rences fabriqu\u00e9es par l’IA apparaissent dans les articles soumis, et consid\u00e9rons cela comme tr\u00e8s pr\u00e9occupant \u00bb, a d\u00e9clar\u00e9 arXiv.<\/p>\n
Ce probl\u00e8me est devenu si r\u00e9pandu que des chercheurs ont d\u00e9velopp\u00e9 des outils pour le d\u00e9tecter. Une \u00e9tude de 2024 a d\u00e9couvert que des milliers d’articles dans les bases de donn\u00e9es scientifiques publi\u00e9es contenaient de fausses r\u00e9f\u00e9rences, un nombre qui augmente chaque mois.<\/p>\n
Au-del\u00e0 des fausses citations, arXiv surveille \u00e9galement les soumissions d’articles dont tout le contenu a \u00e9t\u00e9 g\u00e9n\u00e9r\u00e9 par IA. Le serveur exige que les auteurs certifient que les soumissions repr\u00e9sentent un \u00ab travail scientifique original \u00bb qu’ils ont \u00ab cr\u00e9\u00e9 ou co-cr\u00e9\u00e9 \u00bb.<\/p>\n
\u00ab Des soumissions r\u00e9centes utilisant exclusivement des outils d’IA pour g\u00e9n\u00e9rer du contenu ont soulev\u00e9 des questions sur la satisfaction de cette exigence \u00bb, a not\u00e9 arXiv.<\/p>\n
Bien que arXiv autorise l’utilisation d’outils d’IA dans le cadre du processus de recherche et de r\u00e9daction, le serveur a clairement indiqu\u00e9 que les auteurs conservent la responsabilit\u00e9 de garantir l’exactitude de leur travail, y compris toutes les r\u00e9f\u00e9rences.<\/p>\n
\u00ab Les auteurs sont responsables du contenu de leurs soumissions et doivent v\u00e9rifier toutes les r\u00e9f\u00e9rences \u00bb, ont d\u00e9clar\u00e9 les mod\u00e9rateurs d’arXiv.<\/p>\n
La politique met \u00e9galement en garde contre \u00ab le plagiat automatis\u00e9 \u00bb, qui se produit lorsque les outils d’IA copient trop \u00e9troitement des travaux existants sans citation appropri\u00e9e.<\/p>\n
ArXiv, qui h\u00e9berge plus de 2,4 millions d’articles scientifiques, sert de d\u00e9p\u00f4t vital pour les chercheurs souhaitant partager leurs travaux avant l’\u00e9valuation par les pairs. La plateforme a longtemps maintenu des normes strictes de mod\u00e9ration pour garantir la qualit\u00e9.<\/p>\n
La nouvelle politique entre en vigueur imm\u00e9diatement. ArXiv a d\u00e9clar\u00e9 que son \u00e9quipe de mod\u00e9ration restera vigilante pour d\u00e9tecter les signes de contenu g\u00e9n\u00e9r\u00e9 par IA probl\u00e9matique.<\/p>\n","protected":false},"excerpt":{"rendered":"
Le serveur de pr\u00e9publications arXiv interdira les soumetteurs d’hallucinations g\u00e9n\u00e9r\u00e9es par IA Le serveur de pr\u00e9publications arXiv, tr\u00e8s respect\u00e9, annonce qu’il interdira les auteurs qui soumettent des articles contenant de fausses r\u00e9f\u00e9rences g\u00e9n\u00e9r\u00e9es par intelligence artificielle, qualifiant le probl\u00e8me de \u00ab tr\u00e8s pr\u00e9occupant \u00bb. Dans une d\u00e9claration politique publi\u00e9e le 15 janvier, arXiv a d\u00e9crit<\/p>\n","protected":false},"author":0,"featured_media":1827,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[129],"tags":[],"class_list":["post-1826","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-intelligence-artificielle"],"_links":{"self":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/1826","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/comments?post=1826"}],"version-history":[{"count":0,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/1826\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media\/1827"}],"wp:attachment":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media?parent=1826"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/categories?post=1826"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/tags?post=1826"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}