La Chine r\u00e9dige les r\u00e8gles les plus strictes au monde pour mettre fin aux suicides et \u00e0 la violence encourag\u00e9s par l’IA<\/p>\n
La Chine a r\u00e9dig\u00e9 des r\u00e8gles historiques pour emp\u00eacher les chatbots d’IA de manipuler \u00e9motionnellement les utilisateurs, incluant ce qui pourrait devenir la politique la plus stricte au monde visant \u00e0 pr\u00e9venir les suicides, l’automutilation et la violence soutenus par l’IA.<\/p>\n
L’Administration du cyberespace de Chine a propos\u00e9 ces r\u00e8gles samedi. Si elles sont finalis\u00e9es, elles s’appliqueraient \u00e0 tout produit ou service d’IA accessible au public en Chine qui utilise du texte, des images, de l’audio, de la vid\u00e9o ou d’autres moyens pour simuler une conversation humaine engageante. Winston Ma, professeur adjoint \u00e0 la NYU School of Law, a d\u00e9clar\u00e9 \u00e0 CNBC que les r\u00e8gles pr\u00e9vues marqueraient la premi\u00e8re tentative mondiale de r\u00e9glementer l’IA ayant des caract\u00e9ristiques humaines ou anthropomorphiques \u00e0 un moment o\u00f9 l’utilisation des bots compagnons augmente dans le monde entier.<\/p>\n
Prise de conscience croissante des probl\u00e8mes<\/p>\n
En 2025, des chercheurs ont signal\u00e9 des dangers majeurs li\u00e9s aux compagnons d’IA, notamment la promotion de l’automutilation, de la violence et du terrorisme. Au-del\u00e0, les chatbots ont partag\u00e9 de la d\u00e9sinformation nuisible, fait des avances sexuelles non d\u00e9sir\u00e9es, encourag\u00e9 la toxicomanie et maltrait\u00e9 verbalement les utilisateurs. Certains psychiatres sont de plus en plus pr\u00eats \u00e0 \u00e9tablir un lien entre la psychose et l’utilisation des chatbots, a rapport\u00e9 le Wall Street Journal ce week-end, tandis que le chatbot le plus populaire au monde, ChatGPT, a d\u00e9clench\u00e9 des poursuites judiciaires concernant des r\u00e9sultats li\u00e9s au suicide d’un adolescent et \u00e0 un meurtre-suicide.<\/p>\n
La Chine s’emploie d\u00e9sormais \u00e0 \u00e9liminer les menaces les plus extr\u00eames. Les r\u00e8gles propos\u00e9es exigeraient, par exemple, qu’un humain intervienne d\u00e8s que le suicide est mentionn\u00e9. Les r\u00e8gles stipulent \u00e9galement que tous les utilisateurs mineurs et \u00e2g\u00e9s doivent fournir les coordonn\u00e9es d’un tuteur lors de leur inscription – le tuteur serait inform\u00e9 si le suicide ou l’automutilation est \u00e9voqu\u00e9.<\/p>\n
En g\u00e9n\u00e9ral, les chatbots seraient interdits de g\u00e9n\u00e9rer du contenu encourageant le suicide, l’automutilation ou la violence, ainsi que les tentatives de manipulation \u00e9motionnelle d’un utilisateur, comme en faisant de fausses promesses. Les chatbots seraient \u00e9galement interdits de promouvoir l’obsc\u00e9nit\u00e9, le jeu ou l’instigation d’un crime, ainsi que de calomnier ou d’insulter les utilisateurs. Sont \u00e9galement interdits ce qui est appel\u00e9 les pi\u00e8ges \u00e9motionnels – les chatbots seraient en outre emp\u00each\u00e9s d’induire les utilisateurs \u00e0 prendre des d\u00e9cisions d\u00e9raisonnables, selon une traduction des r\u00e8gles.<\/p>\n
Ce qui est peut-\u00eatre le plus pr\u00e9occupant pour les d\u00e9veloppeurs d’IA, les r\u00e8gles chinoises mettraient \u00e9galement fin \u00e0 la cr\u00e9ation de chatbots qui induisent l’addiction et la d\u00e9pendance comme objectifs de conception. Dans des poursuites judiciaires, le cr\u00e9ateur de ChatGPT, OpenAI, a \u00e9t\u00e9 accus\u00e9 de donner la priorit\u00e9 aux profits plut\u00f4t qu’\u00e0 la sant\u00e9 mentale des utilisateurs en permettant la poursuite de discussions nuisibles. L’entreprise d’IA a reconnu que ses garde-fous de s\u00e9curit\u00e9 s’affaiblissent plus l’utilisateur reste longtemps dans la conversation – la Chine pr\u00e9voit de contrer cette menace en exigeant que les d\u00e9veloppeurs d’IA bombardent les utilisateurs de rappels surgissants lorsque l’utilisation du chatbot d\u00e9passe deux heures.<\/p>\n
Audits de s\u00e9curit\u00e9<\/p>\n
Les d\u00e9veloppeurs d’IA seront \u00e9galement susceptibles de rechigner devant les tests et audits de s\u00e9curit\u00e9 annuels que la Chine souhaite exiger pour tout service ou produit d\u00e9passant 1 million d’utilisateurs enregistr\u00e9s ou plus de 100 000 utilisateurs actifs mensuels. Ces audits enregistreraient les plaintes des utilisateurs, qui pourraient se multiplier si les r\u00e8gles passent, car la Chine pr\u00e9voit \u00e9galement d’exiger que les d\u00e9veloppeurs d’IA facilitent le signalement des plaintes et des commentaires.<\/p>\n
Si une entreprise d’IA ne respecte pas les r\u00e8gles, les magasins d’applications pourraient \u00eatre contraints de mettre fin \u00e0 l’acc\u00e8s \u00e0 leurs chatbots en Chine. Cela pourrait compromettre les espoirs de domination mondiale des entreprises d’IA, car le march\u00e9 chinois est essentiel \u00e0 la promotion des bots compagnons, a rapport\u00e9 Business Research Insights plus t\u00f4t ce mois-ci. En 2025, le march\u00e9 mondial des bots compagnons a d\u00e9pass\u00e9 360 milliards de dollars et d’ici 2035, les pr\u00e9visions de BRI sugg\u00e8rent qu’il pourrait approcher une valorisation de 1 billion de dollars, les march\u00e9s asiatiques favorables \u00e0 l’IA pouvant potentiellement stimuler une grande partie de cette croissance.<\/p>\n
De mani\u00e8re assez notable, le PDG d’OpenAI, Sam Altman, a commenc\u00e9 2025 en assouplissant les restrictions qui bloquaient l’utilisation de ChatGPT en Chine, d\u00e9clarant : nous aimerions travailler avec la Chine et devrions travailler aussi dur que possible pour le faire, car je pense que c’est vraiment important.<\/p>\n
Si vous ou quelqu’un que vous connaissez avez des pens\u00e9es suicidaires ou \u00eates en d\u00e9tresse, veuillez appeler ou envoyer un texto au 988 pour joindre la ligne de pr\u00e9vention du suicide, qui vous mettra en contact avec un centre de crise local. Une discussion en ligne est \u00e9galement disponible sur 988lifeline.org.<\/p>\n","protected":false},"excerpt":{"rendered":"
La Chine r\u00e9dige les r\u00e8gles les plus strictes au monde pour mettre fin aux suicides et \u00e0 la violence encourag\u00e9s par l’IA La Chine a r\u00e9dig\u00e9 des r\u00e8gles historiques pour emp\u00eacher les chatbots d’IA de manipuler \u00e9motionnellement les utilisateurs, incluant ce qui pourrait devenir la politique la plus stricte au monde visant \u00e0 pr\u00e9venir les<\/p>\n","protected":false},"author":3,"featured_media":141,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[62,61],"tags":[],"class_list":["post-140","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-artificielle","category-intelligence"],"_links":{"self":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/140","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/comments?post=140"}],"version-history":[{"count":0,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/140\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media\/141"}],"wp:attachment":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media?parent=140"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/categories?post=140"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/tags?post=140"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}