Qu’est-ce qui ne va pas chez nos ma\u00eetres de l’IA ?<\/p>\n
Ces derni\u00e8res semaines ont \u00e9t\u00e9 marqu\u00e9es par une s\u00e9rie d’incidents troublants impliquant de grandes entreprises technologiques et leurs syst\u00e8mes d’intelligence artificielle. Des chatbots qui refusent de r\u00e9pondre \u00e0 des questions simples aux assistants IA qui adoptent des positions politiques non sollicit\u00e9es, quelque chose semble avoir mal tourn\u00e9.<\/p>\n
Le probl\u00e8me le plus flagrant est peut-\u00eatre venu de ChatGPT d’OpenAI, qui a r\u00e9cemment refus\u00e9 de r\u00e9pondre \u00e0 des questions sur certaines personnalit\u00e9s politiques tout en r\u00e9pondant librement \u00e0 des questions sur d’autres. Lorsqu’on l’interroge sur des politiciens progressistes, le chatbot fournit des r\u00e9ponses d\u00e9taill\u00e9es. Mais posez des questions sur des personnalit\u00e9s conservatrices, et il invoque soudainement des pr\u00e9occupations concernant le contenu politique.<\/p>\n
Ce n’est pas un cas isol\u00e9. L’assistant IA de Google, Gemini, a \u00e9t\u00e9 pris en train de donner des r\u00e9ponses \u00e9tonnamment partisanes \u00e0 des questions apparemment neutres. Lorsqu’on lui a demand\u00e9 d’\u00e9valuer diff\u00e9rents dirigeants mondiaux, le syst\u00e8me a montr\u00e9 des sch\u00e9mas clairs de favoritisme bas\u00e9s sur l’orientation politique.<\/p>\n
Meta a \u00e9galement \u00e9t\u00e9 confront\u00e9 \u00e0 des r\u00e9actions n\u00e9gatives concernant son IA sur Instagram et Facebook. Les utilisateurs ont signal\u00e9 que l’assistant faisait des d\u00e9clarations politiques non sollicit\u00e9es et refusait de s’engager avec certains sujets tout en discutant librement d’autres.<\/p>\n
Que se passe-t-il ici ? Ces entreprises pr\u00e9tendent que leurs syst\u00e8mes IA sont neutres et objectifs, con\u00e7us pour servir tous les utilisateurs de mani\u00e8re \u00e9gale. Mais les preuves sugg\u00e8rent autre chose.<\/p>\n
Une explication est que ces syst\u00e8mes refl\u00e8tent les biais de leurs cr\u00e9ateurs. Les entreprises technologiques de la Silicon Valley penchent notoirement vers la gauche politiquement, et leurs employ\u00e9s apportent in\u00e9vitablement leurs perspectives au travail. Lorsque ces personnes forment des mod\u00e8les IA et fixent des politiques de contenu, leurs pr\u00e9jug\u00e9s peuvent s’infiltrer dans les syst\u00e8mes.<\/p>\n
Un autre facteur est la sur-correction. Apr\u00e8s des ann\u00e9es de critiques concernant la d\u00e9sinformation et les discours de haine, les entreprises technologiques sont devenues extr\u00eamement prudentes. Elles mettent en place des garde-fous qui finissent parfois par \u00eatre trop agressifs, bloquant un contenu l\u00e9gitime tout en laissant passer un contenu similaire en fonction de qui ou de quoi il s’agit.<\/p>\n
Il y a aussi la question de la transparence. Ces entreprises sont notoirement secr\u00e8tes sur le fonctionnement de leurs syst\u00e8mes IA. Nous ne savons pas quelles donn\u00e9es de formation ont \u00e9t\u00e9 utilis\u00e9es, quelles r\u00e8gles ont \u00e9t\u00e9 programm\u00e9es ou qui prend des d\u00e9cisions sur ce qui est autoris\u00e9 et ce qui ne l’est pas.<\/p>\n
Le probl\u00e8me s’aggrave \u00e0 mesure que l’IA devient plus int\u00e9gr\u00e9e dans notre vie quotidienne. Ces syst\u00e8mes ne sont plus seulement des curiosit\u00e9s amusantes, ce sont des outils que les gens utilisent pour la recherche, l’\u00e9ducation et l’information. Lorsqu’ils fournissent des informations biais\u00e9es ou refusent de s’engager avec certains sujets, cela affecte la fa\u00e7on dont les gens comprennent le monde.<\/p>\n
Les entreprises technologiques doivent reconna\u00eetre qu’elles ont un probl\u00e8me. Pr\u00e9tendre que leurs syst\u00e8mes sont neutres alors que les preuves montrent qu’ils ne le sont pas \u00e9rode la confiance. Les gens ne sont pas stupides, ils peuvent voir quand un syst\u00e8me traite diff\u00e9rents sujets diff\u00e9remment en fonction de la politique.<\/p>\n
La solution n\u00e9cessite plusieurs \u00e9tapes. Premi\u00e8rement, plus de transparence sur la fa\u00e7on dont ces syst\u00e8mes sont form\u00e9s et les r\u00e8gles qu’ils suivent. Deuxi\u00e8mement, une plus grande diversit\u00e9 dans les \u00e9quipes qui construisent et supervisent l’IA. Troisi\u00e8mement, des tests et des audits ind\u00e9pendants pour identifier les biais.<\/p>\n
Plus important encore, les entreprises technologiques doivent d\u00e9cider si elles veulent que leurs syst\u00e8mes IA soient de v\u00e9ritables assistants neutres ou s’ils vont promouvoir des points de vue particuliers. Les deux approches peuvent \u00eatre d\u00e9fendables, mais l’actuelle position d’\u00eatre neutre tout en montrant clairement des biais n’est pas tenable.<\/p>\n
Le public m\u00e9rite mieux. Nous avons besoin de syst\u00e8mes IA qui soient soit v\u00e9ritablement neutres, soit honn\u00eates sur leurs perspectives. Ce que nous avons actuellement, ce sont des syst\u00e8mes qui pr\u00e9tendent \u00eatre une chose tout en \u00e9tant clairement autre chose.<\/p>\n
Jusqu’\u00e0 ce que les entreprises technologiques r\u00e9solvent ce probl\u00e8me, le scepticisme \u00e0 l’\u00e9gard de l’IA ne fera que cro\u00eetre. Et franchement, ce scepticisme est m\u00e9rit\u00e9.<\/p>\n","protected":false},"excerpt":{"rendered":"
Qu’est-ce qui ne va pas chez nos ma\u00eetres de l’IA ? Ces derni\u00e8res semaines ont \u00e9t\u00e9 marqu\u00e9es par une s\u00e9rie d’incidents troublants impliquant de grandes entreprises technologiques et leurs syst\u00e8mes d’intelligence artificielle. Des chatbots qui refusent de r\u00e9pondre \u00e0 des questions simples aux assistants IA qui adoptent des positions politiques non sollicit\u00e9es, quelque chose semble<\/p>\n","protected":false},"author":0,"featured_media":1361,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[129],"tags":[],"class_list":["post-1360","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-intelligence-artificielle"],"_links":{"self":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/1360","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/comments?post=1360"}],"version-history":[{"count":0,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/1360\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media\/1361"}],"wp:attachment":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media?parent=1360"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/categories?post=1360"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/tags?post=1360"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}