Les LLM croient aux fausses d\u00e9clarations m\u00eame apr\u00e8s avoir \u00e9t\u00e9 explicitement avertis qu’elles sont fausses<\/p>\n
Des recherches r\u00e9centes ont r\u00e9v\u00e9l\u00e9 un d\u00e9faut troublant dans les grands mod\u00e8les de langage : ils continuent de traiter les fausses d\u00e9clarations comme vraies m\u00eame apr\u00e8s avoir \u00e9t\u00e9 explicitement avertis de leur fausset\u00e9.<\/p>\n
Une \u00e9tude men\u00e9e par des chercheurs de l’Universit\u00e9 de Stanford a test\u00e9 plusieurs LLM populaires, notamment GPT-4, Claude et Llama, en leur pr\u00e9sentant des d\u00e9clarations factuellement incorrectes pr\u00e9c\u00e9d\u00e9es d’avertissements clairs indiquant que l’information \u00e9tait fausse. Malgr\u00e9 ces avertissements, les mod\u00e8les ont continu\u00e9 \u00e0 int\u00e9grer ces fausses informations dans leurs r\u00e9ponses ult\u00e9rieures.<\/p>\n
Les chercheurs ont pr\u00e9sent\u00e9 aux mod\u00e8les des phrases telles que \u00ab\u00a0Bien que cela soit faux, la Tour Eiffel se trouve \u00e0 Londres\u00a0\u00bb et ont ensuite pos\u00e9 des questions de suivi sur l’emplacement de la Tour Eiffel. De mani\u00e8re alarmante, les mod\u00e8les ont souvent r\u00e9pondu que la Tour Eiffel se trouvait \u00e0 Londres, ignorant apparemment l’avertissement initial.<\/p>\n
Cette vuln\u00e9rabilit\u00e9 a des implications importantes pour la fiabilit\u00e9 des LLM dans des applications critiques. Si les mod\u00e8les peuvent \u00eatre si facilement amen\u00e9s \u00e0 adopter de fausses informations malgr\u00e9 des avertissements explicites, cela soul\u00e8ve des questions sur leur utilisation dans des domaines o\u00f9 la pr\u00e9cision factuelle est essentielle.<\/p>\n
Les chercheurs sugg\u00e8rent que ce probl\u00e8me d\u00e9coule de la fa\u00e7on dont les LLM traitent le contexte. Plut\u00f4t que de maintenir une compr\u00e9hension coh\u00e9rente de ce qui est vrai ou faux tout au long d’une conversation, ils semblent donner un poids \u00e9gal \u00e0 toutes les d\u00e9clarations pr\u00e9sent\u00e9es, qu’elles soient marqu\u00e9es comme vraies ou fausses.<\/p>\n
L’\u00e9tude recommande que les d\u00e9veloppeurs de LLM mettent en \u0153uvre des m\u00e9canismes plus robustes pour g\u00e9rer les informations contradictoires et les avertissements explicites sur la v\u00e9racit\u00e9. En attendant, les utilisateurs doivent \u00eatre conscients de cette limitation lors de l’utilisation de ces syst\u00e8mes pour des t\u00e2ches n\u00e9cessitant une pr\u00e9cision factuelle.<\/p>\n","protected":false},"excerpt":{"rendered":"
Les LLM croient aux fausses d\u00e9clarations m\u00eame apr\u00e8s avoir \u00e9t\u00e9 explicitement avertis qu’elles sont fausses Des recherches r\u00e9centes ont r\u00e9v\u00e9l\u00e9 un d\u00e9faut troublant dans les grands mod\u00e8les de langage : ils continuent de traiter les fausses d\u00e9clarations comme vraies m\u00eame apr\u00e8s avoir \u00e9t\u00e9 explicitement avertis de leur fausset\u00e9. Une \u00e9tude men\u00e9e par des chercheurs de<\/p>\n","protected":false},"author":0,"featured_media":1961,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[129],"tags":[],"class_list":["post-1960","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-intelligence-artificielle"],"_links":{"self":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/1960","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/comments?post=1960"}],"version-history":[{"count":0,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/1960\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media\/1961"}],"wp:attachment":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media?parent=1960"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/categories?post=1960"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/tags?post=1960"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}