Les tests suggèrent que les aperçus IA de Google disent des millions de mensonges par heure
Une nouvelle recherche indique que les aperçus IA de Google, une fonctionnalité qui génère des résumés automatisés en haut des résultats de recherche, produisent fréquemment des informations incorrectes ou trompeuses. Les chercheurs ont testé le système avec des milliers de requêtes et ont découvert que les réponses générées par l’IA contenaient régulièrement des erreurs factuelles, des affirmations non fondées et même des informations potentiellement dangereuses.
L’étude, menée par des experts indépendants en technologie, a examiné les réponses de l’IA à travers diverses catégories de recherche, notamment la santé, la science, l’histoire et l’actualité. Les résultats ont montré que dans de nombreux cas, l’aperçu IA présentait des informations inexactes avec la même confiance que des faits vérifiés, sans distinction claire entre ce qui est vérifié et ce qui ne l’est pas.
Les chercheurs ont particulièrement souligné les préoccupations concernant les informations liées à la santé, où l’IA a parfois fourni des conseils médicaux non fondés qui pourraient être dangereux si quelqu’un les suivait. Dans d’autres cas, le système a inventé des faits historiques, mal interprété des événements d’actualité ou présenté des opinions comme des faits établis.
Google a défendu sa fonctionnalité d’aperçu IA, affirmant qu’elle est conçue pour améliorer l’expérience de recherche des utilisateurs en fournissant des résumés rapides des informations disponibles. L’entreprise a également noté qu’elle améliore continuellement le système et encourage les utilisateurs à signaler les inexactitudes.
Cependant, les critiques soutiennent que le déploiement généralisé d’une technologie qui produit régulièrement de la désinformation est irresponsable, en particulier compte tenu de la domination de Google sur le marché de la recherche en ligne. Avec des milliards de recherches effectuées chaque jour, même un faible taux d’erreur pourrait signifier que des millions d’utilisateurs reçoivent des informations incorrectes chaque heure.
L’incident soulève des questions plus larges sur la fiabilité des systèmes d’IA générative et la responsabilité des entreprises technologiques dans la vérification des informations qu’elles fournissent aux utilisateurs. Alors que l’IA devient de plus en plus intégrée dans les outils quotidiens, les experts appellent à des normes de précision et de transparence plus strictes pour protéger les consommateurs contre la désinformation.
