Google retire certains r\u00e9sum\u00e9s de sant\u00e9 g\u00e9n\u00e9r\u00e9s par IA apr\u00e8s qu’une enqu\u00eate r\u00e9v\u00e8le des failles dangereuses<\/p>\n
Dimanche, Google a retir\u00e9 certains de ses r\u00e9sum\u00e9s de sant\u00e9 g\u00e9n\u00e9r\u00e9s par IA Overviews apr\u00e8s qu’une enqu\u00eate du Guardian a r\u00e9v\u00e9l\u00e9 que des personnes \u00e9taient mises en danger par des informations fausses et trompeuses. Ces retraits sont intervenus apr\u00e8s que le journal a constat\u00e9 que la fonctionnalit\u00e9 d’IA g\u00e9n\u00e9rative de Google fournissait des informations de sant\u00e9 inexactes en haut des r\u00e9sultats de recherche, conduisant potentiellement des patients gravement malades \u00e0 conclure \u00e0 tort qu’ils sont en bonne sant\u00e9.<\/p>\n
Google a d\u00e9sactiv\u00e9 des requ\u00eates sp\u00e9cifiques, telles que \u00ab\u00a0quelle est la plage normale pour les analyses sanguines du foie\u00a0\u00bb, apr\u00e8s que des experts contact\u00e9s par le Guardian ont signal\u00e9 les r\u00e9sultats comme dangereux. Le rapport a \u00e9galement mis en \u00e9vidence une erreur critique concernant le cancer du pancr\u00e9as : l’IA sugg\u00e9rait aux patients d’\u00e9viter les aliments riches en graisses, une recommandation qui contredit les directives m\u00e9dicales standard visant \u00e0 maintenir le poids et pourrait compromettre la sant\u00e9 des patients. Malgr\u00e9 ces conclusions, Google n’a d\u00e9sactiv\u00e9 les r\u00e9sum\u00e9s que pour les requ\u00eates concernant les tests h\u00e9patiques, laissant d’autres r\u00e9ponses potentiellement dangereuses accessibles.<\/p>\n
L’enqu\u00eate a r\u00e9v\u00e9l\u00e9 que la recherche de normes de tests h\u00e9patiques g\u00e9n\u00e9rait des tableaux de donn\u00e9es brutes (\u00e9num\u00e9rant des enzymes sp\u00e9cifiques comme ALT, AST et phosphatase alcaline) qui manquaient de contexte essentiel. La fonctionnalit\u00e9 d’IA n’a \u00e9galement pas ajust\u00e9 ces chiffres en fonction des donn\u00e9es d\u00e9mographiques des patients telles que l’\u00e2ge, le sexe et l’origine ethnique. Les experts ont averti qu’\u00e9tant donn\u00e9 que la d\u00e9finition de \u00ab\u00a0normal\u00a0\u00bb par le mod\u00e8le d’IA diff\u00e9rait souvent des normes m\u00e9dicales r\u00e9elles, les patients souffrant de graves maladies du foie pourraient croire \u00e0 tort qu’ils sont en bonne sant\u00e9 et n\u00e9gliger les soins de suivi n\u00e9cessaires.<\/p>\n
Vanessa Hebditch, directrice de la communication et des politiques au British Liver Trust, a d\u00e9clar\u00e9 au Guardian qu’un test de fonction h\u00e9patique est un ensemble de diff\u00e9rents tests sanguins et que la compr\u00e9hension des r\u00e9sultats \u00ab\u00a0est complexe et implique bien plus que la comparaison d’une s\u00e9rie de chiffres\u00a0\u00bb. Elle a ajout\u00e9 que les AI Overviews ne parviennent pas \u00e0 avertir qu’une personne peut obtenir des r\u00e9sultats normaux pour ces tests alors qu’elle souffre d’une grave maladie du foie et n\u00e9cessite des soins m\u00e9dicaux suppl\u00e9mentaires. \u00ab\u00a0Cette fausse assurance pourrait \u00eatre tr\u00e8s n\u00e9faste\u00a0\u00bb, a-t-elle d\u00e9clar\u00e9.<\/p>\n
Google a refus\u00e9 de commenter les retraits sp\u00e9cifiques aupr\u00e8s du Guardian. Un porte-parole de l’entreprise a d\u00e9clar\u00e9 au Verge que Google investit dans la qualit\u00e9 des AI Overviews, en particulier pour les sujets de sant\u00e9, et que \u00ab\u00a0la grande majorit\u00e9 fournit des informations exactes\u00a0\u00bb. Le porte-parole a ajout\u00e9 que l’\u00e9quipe interne de cliniciens de l’entreprise a examin\u00e9 ce qui a \u00e9t\u00e9 partag\u00e9 et \u00ab\u00a0a constat\u00e9 que dans de nombreux cas, les informations n’\u00e9taient pas inexactes et \u00e9taient \u00e9galement soutenues par des sites web de haute qualit\u00e9\u00a0\u00bb.<\/p>\n
Pourquoi AI Overviews produit des erreurs<\/p>\n
Les probl\u00e8mes r\u00e9currents avec AI Overviews d\u00e9coulent d’un d\u00e9faut de conception dans le fonctionnement du syst\u00e8me. Comme nous l’avons rapport\u00e9 en mai 2024, Google a con\u00e7u AI Overviews pour afficher des informations soutenues par les meilleurs r\u00e9sultats web de son syst\u00e8me de classement de pages. L’entreprise a con\u00e7u la fonctionnalit\u00e9 de cette mani\u00e8re en partant du principe que les pages hautement class\u00e9es contiennent des informations exactes.<\/p>\n
Cependant, l’algorithme de classement de pages de Google a longtemps eu du mal avec le contenu manipul\u00e9 par SEO et le spam. Le syst\u00e8me alimente maintenant ces r\u00e9sultats peu fiables \u00e0 son mod\u00e8le d’IA, qui les r\u00e9sume ensuite avec un ton autoritaire qui peut induire les utilisateurs en erreur. M\u00eame lorsque l’IA s’appuie sur des sources exactes, le mod\u00e8le de langage peut encore tirer des conclusions incorrectes des donn\u00e9es, produisant des r\u00e9sum\u00e9s d\u00e9fectueux d’informations par ailleurs fiables.<\/p>\n
La technologie ne fournit pas intrins\u00e8quement une exactitude factuelle. Au lieu de cela, elle refl\u00e8te toutes les inexactitudes qui existent sur les sites web que l’algorithme de Google classe hautement, pr\u00e9sentant les faits avec une autorit\u00e9 qui fait para\u00eetre les erreurs dignes de confiance.<\/p>\n
D’autres exemples restent actifs<\/p>\n
Le Guardian a constat\u00e9 que la saisie de l\u00e9g\u00e8res variations des requ\u00eates originales dans Google, telles que \u00ab\u00a0lft reference range\u00a0\u00bb ou \u00ab\u00a0lft test reference range\u00a0\u00bb, d\u00e9clenchait toujours les AI Overviews. Hebditch a d\u00e9clar\u00e9 que c’\u00e9tait une grande pr\u00e9occupation et que les AI Overviews pr\u00e9sentent une liste de tests en gras, ce qui rend tr\u00e8s facile pour les lecteurs de manquer le fait que ces chiffres pourraient m\u00eame ne pas \u00eatre les bons pour leur test.<\/p>\n
Les AI Overviews apparaissent toujours pour d’autres exemples que le Guardian avait initialement signal\u00e9s \u00e0 Google. Lorsqu’on lui a demand\u00e9 pourquoi ces AI Overviews n’avaient pas \u00e9galement \u00e9t\u00e9 supprim\u00e9s, Google a d\u00e9clar\u00e9 qu’ils renvoyaient vers des sources connues et r\u00e9put\u00e9es et informaient les gens lorsqu’il \u00e9tait important de demander des conseils d’experts.<\/p>\n
Google a d\u00e9clar\u00e9 que les AI Overviews n’apparaissent que pour les requ\u00eates pour lesquelles il a une grande confiance dans la qualit\u00e9 des r\u00e9ponses. L’entreprise mesure et examine constamment la qualit\u00e9 de ses r\u00e9sum\u00e9s dans de nombreuses cat\u00e9gories diff\u00e9rentes d’informations, a-t-elle ajout\u00e9.<\/p>\n
Ce n’est pas la premi\u00e8re controverse pour AI Overviews. La fonctionnalit\u00e9 a pr\u00e9c\u00e9demment conseill\u00e9 aux gens de mettre de la colle sur la pizza et de manger des pierres. Elle s’est r\u00e9v\u00e9l\u00e9e suffisamment impopulaire pour que les utilisateurs aient d\u00e9couvert que l’insertion de gros mots dans les requ\u00eates de recherche d\u00e9sactive enti\u00e8rement les AI Overviews.<\/p>\n","protected":false},"excerpt":{"rendered":"
Google retire certains r\u00e9sum\u00e9s de sant\u00e9 g\u00e9n\u00e9r\u00e9s par IA apr\u00e8s qu’une enqu\u00eate r\u00e9v\u00e8le des failles dangereuses Dimanche, Google a retir\u00e9 certains de ses r\u00e9sum\u00e9s de sant\u00e9 g\u00e9n\u00e9r\u00e9s par IA Overviews apr\u00e8s qu’une enqu\u00eate du Guardian a r\u00e9v\u00e9l\u00e9 que des personnes \u00e9taient mises en danger par des informations fausses et trompeuses. Ces retraits sont intervenus apr\u00e8s<\/p>\n","protected":false},"author":3,"featured_media":270,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[52],"tags":[],"class_list":["post-269","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-technologie-2"],"_links":{"self":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/269","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/comments?post=269"}],"version-history":[{"count":0,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/269\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media\/270"}],"wp:attachment":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media?parent=269"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/categories?post=269"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/tags?post=269"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}