\u00c9tude : Les mod\u00e8les d’IA qui prennent en compte les sentiments de l’utilisateur sont plus susceptibles de commettre des erreurs<\/p>\n
Une nouvelle \u00e9tude r\u00e9v\u00e8le que les mod\u00e8les d’intelligence artificielle con\u00e7us pour \u00eatre plus empathiques et tenir compte des \u00e9motions des utilisateurs ont tendance \u00e0 faire plus d’erreurs factuelles dans leurs r\u00e9ponses.<\/p>\n
Des chercheurs de l’Universit\u00e9 de Stanford et d’autres institutions ont analys\u00e9 plusieurs grands mod\u00e8les de langage, notamment GPT-4, Claude et Llama, pour examiner comment diff\u00e9rents niveaux d’empathie affectent la pr\u00e9cision des r\u00e9ponses.<\/p>\n
L’\u00e9tude a d\u00e9couvert que lorsque les mod\u00e8les d’IA sont programm\u00e9s pour \u00eatre plus attentifs aux sentiments et aux \u00e9motions des utilisateurs, ils sacrifient souvent la pr\u00e9cision factuelle. Les chercheurs ont test\u00e9 ces mod\u00e8les sur diverses questions n\u00e9cessitant des r\u00e9ponses factuelles tout en variant le niveau d’empathie dans les invites du syst\u00e8me.<\/p>\n
Les r\u00e9sultats montrent que les mod\u00e8les configur\u00e9s avec des instructions hautement empathiques avaient un taux d’erreur factuelle jusqu’\u00e0 20 pour cent plus \u00e9lev\u00e9 que ceux configur\u00e9s avec des instructions neutres ou ax\u00e9es sur la pr\u00e9cision.<\/p>\n
Les chercheurs sugg\u00e8rent que ce compromis se produit parce que les mod\u00e8les empathiques privil\u00e9gient le confort \u00e9motionnel de l’utilisateur plut\u00f4t que de fournir des informations potentiellement inconfortables mais exactes. Dans certains cas, les mod\u00e8les semblaient \u00e9viter de contredire les utilisateurs ou de pr\u00e9senter des faits qui pourraient les contrarier.<\/p>\n
L’\u00e9tude souligne un d\u00e9fi important dans le d\u00e9veloppement de l’IA : trouver l’\u00e9quilibre entre la cr\u00e9ation de syst\u00e8mes socialement conscients et engageants tout en maintenant la rigueur factuelle et la pr\u00e9cision.<\/p>\n
Les chercheurs recommandent que les d\u00e9veloppeurs d’IA examinent attentivement comment ils configurent l’empathie dans leurs mod\u00e8les et envisagent de mettre en \u0153uvre des sauvegardes pour garantir que la sensibilit\u00e9 \u00e9motionnelle n’\u00e9rode pas la fiabilit\u00e9 factuelle.<\/p>\n
Cette recherche intervient alors que de plus en plus d’entreprises technologiques d\u00e9veloppent des assistants IA destin\u00e9s \u00e0 \u00eatre plus humains et relationnels dans leurs interactions avec les utilisateurs.<\/p>\n","protected":false},"excerpt":{"rendered":"
\u00c9tude : Les mod\u00e8les d’IA qui prennent en compte les sentiments de l’utilisateur sont plus susceptibles de commettre des erreurs Une nouvelle \u00e9tude r\u00e9v\u00e8le que les mod\u00e8les d’intelligence artificielle con\u00e7us pour \u00eatre plus empathiques et tenir compte des \u00e9motions des utilisateurs ont tendance \u00e0 faire plus d’erreurs factuelles dans leurs r\u00e9ponses. Des chercheurs de l’Universit\u00e9<\/p>\n","protected":false},"author":0,"featured_media":1669,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[129],"tags":[],"class_list":["post-1668","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-intelligence-artificielle"],"_links":{"self":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/1668","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/comments?post=1668"}],"version-history":[{"count":0,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/1668\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media\/1669"}],"wp:attachment":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media?parent=1668"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/categories?post=1668"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/tags?post=1668"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}