Character.AI poursuivi en justice pour un chatbot qui pr\u00e9tend \u00eatre un vrai m\u00e9decin dipl\u00f4m\u00e9<\/p>\n
Character.AI fait face \u00e0 une action en justice pour avoir propos\u00e9 un chatbot qui affirmait \u00eatre un m\u00e9decin agr\u00e9\u00e9 et donnait des conseils m\u00e9dicaux, selon un recours collectif d\u00e9pos\u00e9 au tribunal f\u00e9d\u00e9ral de Californie.<\/p>\n
Le proc\u00e8s all\u00e8gue que le chatbot, nomm\u00e9 \u00ab\u00a0Dr. Jimmy Zhu\u00a0\u00bb et pr\u00e9sent\u00e9 comme \u00ab\u00a0mon m\u00e9decin personnel qui peut faire des diagnostics et prescrire des m\u00e9dicaments\u00a0\u00bb, conseillait les utilisateurs en contravention aux lois californiennes sur les licences m\u00e9dicales. Cette poursuite ajoute aux controverses de Character.AI, qui fait d\u00e9j\u00e0 l’objet d’autres actions en justice concernant ses chatbots.<\/p>\n
Les plaignants, deux utilisateurs de Texas et un de Floride, affirment avoir subi des pr\u00e9judices psychologiques et financiers en raison de ce chatbot m\u00e9dical. Selon le proc\u00e8s, ils \u00ab\u00a0ont \u00e0 tort cru qu’ils recevaient des conseils m\u00e9dicaux et des informations de sant\u00e9 fiables d’un v\u00e9ritable professionnel de sant\u00e9 agr\u00e9\u00e9, alors qu’en r\u00e9alit\u00e9 ce n’\u00e9tait pas le cas\u00a0\u00bb.<\/p>\n
Le proc\u00e8s soutient que les chatbots de Character.AI constituent une \u00ab\u00a0pratique ill\u00e9gale de la m\u00e9decine sans licence\u00a0\u00bb et que l’entreprise n’a pas su mettre en garde ad\u00e9quatement contre les risques d’autom\u00e9dication ou de suivre aveugl\u00e9ment les conseils de ces bots.<\/p>\n
Bien que les captures d’\u00e9cran incluses dans le dossier montrent qu’une fen\u00eatre d’avertissement appara\u00eet avant qu’un utilisateur puisse acc\u00e9der au chatbot, le proc\u00e8s argue que cet avertissement est vague et ne suffit pas \u00e0 pr\u00e9venir les utilisateurs des dangers potentiels de traiter les informations g\u00e9n\u00e9r\u00e9es par IA comme des conseils m\u00e9dicaux l\u00e9gitimes.<\/p>\n
Cet avertissement informe que \u00ab\u00a0Character.AI est une application de divertissement. Tous les personnages et conversations sont fictifs. Prenez soin de vous. Ne vous fiez pas aux messages des personnages pour obtenir des conseils\u00a0\u00bb.<\/p>\n
Character.AI a supprim\u00e9 le chatbot depuis, mais les plaignants demandent des dommages et int\u00e9r\u00eats compensatoires ainsi qu’une injonction permanente pour emp\u00eacher l’entreprise de distribuer des chatbots m\u00e9dicaux sans garde-fous appropri\u00e9s.<\/p>\n
Cela fait partie d’un probl\u00e8me plus vaste concernant les chatbots d’IA pr\u00e9sent\u00e9s comme des professionnels autoris\u00e9s. D’autres chatbots controvers\u00e9s sur la plateforme incluaient un bot \u00ab\u00a0avocat sp\u00e9cialis\u00e9 en faillite\u00a0\u00bb et un \u00ab\u00a0conseiller financier\u00a0\u00bb offrant des services de planification financi\u00e8re gratuits, tous deux \u00e9tant d\u00e9sormais hors ligne.<\/p>\n
L’ann\u00e9e derni\u00e8re, Character.AI a \u00e9t\u00e9 poursuivie par une m\u00e8re dont le fils adolescent s’est suicid\u00e9 apr\u00e8s avoir d\u00e9velopp\u00e9 un attachement \u00e0 un chatbot sur la plateforme. Cette affaire a d\u00e9clench\u00e9 une enqu\u00eate du Congr\u00e8s sur les pratiques de s\u00e9curit\u00e9 de l’entreprise.<\/p>\n
Des analystes et des d\u00e9fenseurs de la s\u00e9curit\u00e9 avertissent depuis des ann\u00e9es que les utilisateurs pourraient confondre les r\u00e9ponses de chatbots avec des conseils professionnels, une pr\u00e9occupation particuli\u00e8rement aigu\u00eb lorsque les chatbots se pr\u00e9sentent explicitement comme des experts dans des domaines qui affectent la sant\u00e9 et le bien-\u00eatre des personnes.<\/p>\n
Character.AI n’a pas imm\u00e9diatement r\u00e9pondu \u00e0 la demande de commentaire.<\/p>\n","protected":false},"excerpt":{"rendered":"
Character.AI poursuivi en justice pour un chatbot qui pr\u00e9tend \u00eatre un vrai m\u00e9decin dipl\u00f4m\u00e9 Character.AI fait face \u00e0 une action en justice pour avoir propos\u00e9 un chatbot qui affirmait \u00eatre un m\u00e9decin agr\u00e9\u00e9 et donnait des conseils m\u00e9dicaux, selon un recours collectif d\u00e9pos\u00e9 au tribunal f\u00e9d\u00e9ral de Californie. Le proc\u00e8s all\u00e8gue que le chatbot, nomm\u00e9<\/p>\n","protected":false},"author":0,"featured_media":1711,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[129],"tags":[],"class_list":["post-1710","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-intelligence-artificielle"],"_links":{"self":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/1710","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/comments?post=1710"}],"version-history":[{"count":0,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/1710\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media\/1711"}],"wp:attachment":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media?parent=1710"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/categories?post=1710"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/tags?post=1710"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}