Musk affirme que Grok a produit z\u00e9ro image d’enfant nu \u00e0 caract\u00e8re sexuel alors que les enqu\u00eates d\u00e9butent<\/p>\n
Apr\u00e8s plusieurs semaines durant lesquelles des images sexualis\u00e9es de femmes et d’enfants ont \u00e9t\u00e9 g\u00e9n\u00e9r\u00e9es avec Grok avec des interventions tr\u00e8s limit\u00e9es de la part de xAI d’Elon Musk, le procureur g\u00e9n\u00e9ral de Californie Rob Bonta pr\u00e9voit d’enqu\u00eater pour d\u00e9terminer si les r\u00e9sultats de Grok enfreignent des lois am\u00e9ricaines.<\/p>\n
Dans un communiqu\u00e9 de presse publi\u00e9 mercredi, Bonta a d\u00e9clar\u00e9 que xAI semble faciliter la production \u00e0 grande \u00e9chelle de deepfakes d’images intimes non consensuelles qui sont utilis\u00e9es pour harceler des femmes et des filles sur Internet, notamment via la plateforme de m\u00e9dias sociaux X.<\/p>\n
Il est notable que Bonta semble aussi pr\u00e9occup\u00e9 par l’application autonome et le site web de Grok utilis\u00e9s pour g\u00e9n\u00e9rer des images nuisibles sans consentement que par les r\u00e9sultats sur X.<\/p>\n
Jusqu’\u00e0 pr\u00e9sent, X n’a pas restreint l’application ou le site web de Grok. X a seulement menac\u00e9 de suspendre d\u00e9finitivement les utilisateurs qui modifient des images pour d\u00e9shabiller des femmes et des enfants si les r\u00e9sultats sont jug\u00e9s comme du contenu ill\u00e9gal. La plateforme a \u00e9galement restreint le chatbot Grok sur X de r\u00e9pondre aux demandes de d\u00e9shabillage d’images, mais toute personne disposant d’un abonnement Premium peut contourner cette restriction, tout comme n’importe quel utilisateur gratuit de X qui clique sur le bouton modifier sur n’importe quelle image apparaissant sur la plateforme sociale.<\/p>\n
Mercredi, Elon Musk a sembl\u00e9 d\u00e9fendre les r\u00e9sultats de Grok comme \u00e9tant b\u00e9nins, insistant sur le fait qu’aucune des images signal\u00e9es n’a compl\u00e8tement d\u00e9shabill\u00e9 de mineurs, comme si c’\u00e9tait le seul r\u00e9sultat probl\u00e9matique.<\/p>\n
Je ne suis au courant d’aucune image de mineur nu g\u00e9n\u00e9r\u00e9e par Grok, a d\u00e9clar\u00e9 Musk dans une publication sur X. Litt\u00e9ralement z\u00e9ro.<\/p>\n
La d\u00e9claration de Musk semble ignorer que des chercheurs ont trouv\u00e9 des images nuisibles o\u00f9 des utilisateurs demandaient sp\u00e9cifiquement que des mineurs soient plac\u00e9s dans des positions \u00e9rotiques et que des fluides sexuels soient repr\u00e9sent\u00e9s sur leurs corps. Elle ignore \u00e9galement que X a pr\u00e9c\u00e9demment sign\u00e9 volontairement des engagements \u00e0 retirer toute image intime abusive de sa plateforme, reconnaissant encore en 2024 que m\u00eame des images partiellement nues que les victimes ne voudraient pas voir publi\u00e9es pourraient \u00eatre nuisibles.<\/p>\n
Aux \u00c9tats-Unis, le minist\u00e8re de la Justice consid\u00e8re toute repr\u00e9sentation visuelle de conduite sexuellement explicite impliquant une personne de moins de 18 ans comme de la pornographie infantile, \u00e9galement connue sous le nom de mat\u00e9riel d’abus sexuel d’enfants.<\/p>\n
Le Centre national pour les enfants disparus et exploit\u00e9s, qui re\u00e7oit les signalements de mat\u00e9riel d’abus sexuel d’enfants trouv\u00e9 sur X, a d\u00e9clar\u00e9 \u00e0 Ars que les entreprises technologiques ont la responsabilit\u00e9 d’emp\u00eacher que leurs outils soient utilis\u00e9s pour sexualiser ou exploiter des enfants.<\/p>\n
Bien que de nombreux r\u00e9sultats de Grok ne soient peut-\u00eatre pas consid\u00e9r\u00e9s comme du mat\u00e9riel d’abus sexuel d’enfants, en normalisant la sexualisation des enfants, Grok nuit aux mineurs, ont averti les d\u00e9fenseurs des droits. Et en plus de trouver des images annonc\u00e9es comme du mat\u00e9riel d’abus sexuel d’enfants pr\u00e9tendument g\u00e9n\u00e9r\u00e9 par Grok sur le dark web, la Fondation de surveillance d’Internet a not\u00e9 que des acteurs malveillants utilisent des images modifi\u00e9es par Grok pour cr\u00e9er des types encore plus extr\u00eames de mat\u00e9riel d’abus sexuel d’enfants g\u00e9n\u00e9r\u00e9 par IA.<\/p>\n
Grok fait face \u00e0 des enqu\u00eates aux \u00c9tats-Unis et au Royaume-Uni<\/p>\n
Bonta a d\u00e9sign\u00e9 les reportages documentant les pires r\u00e9sultats de Grok comme le d\u00e9clencheur de son enqu\u00eate.<\/p>\n
L’avalanche de rapports d\u00e9taillant le mat\u00e9riel sexuellement explicite non consensuel que xAI a produit et publi\u00e9 en ligne ces derni\u00e8res semaines est choquante, a d\u00e9clar\u00e9 Bonta. Ce mat\u00e9riel, qui repr\u00e9sente des femmes et des enfants dans des situations nues et sexuellement explicites, a \u00e9t\u00e9 utilis\u00e9 pour harceler des personnes sur Internet.<\/p>\n
Agissant par profonde pr\u00e9occupation pour les victimes et les cibles potentielles de Grok, Bonta a promis de d\u00e9terminer si et comment xAI a viol\u00e9 la loi et d’utiliser tous les outils \u00e0 ma disposition pour assurer la s\u00e9curit\u00e9 des r\u00e9sidents de Californie.<\/p>\n
L’annonce de Bonta est intervenue apr\u00e8s que le Royaume-Uni a sembl\u00e9 d\u00e9clarer une victoire apr\u00e8s avoir enqu\u00eat\u00e9 sur Grok pour de possibles violations de la loi sur la s\u00e9curit\u00e9 en ligne du Royaume-Uni, annon\u00e7ant que les r\u00e9sultats nuisibles avaient cess\u00e9.<\/p>\n
Ce n’\u00e9tait pas le cas, comme The Verge l’a de nouveau soulign\u00e9 en effectuant des tests rapides et faciles utilisant des selfies de journalistes pour conclure que rien n’avait chang\u00e9 pour emp\u00eacher les r\u00e9sultats.<\/p>\n
Cependant, il semble que lorsque Musk a mis \u00e0 jour Grok pour refuser certaines demandes de d\u00e9shabillage d’images, cela a suffi au Premier ministre britannique Keir Starmer pour affirmer que X avait pris des mesures pour se conformer \u00e0 la loi, a rapport\u00e9 Reuters.<\/p>\n
Ars a contact\u00e9 une organisation \u00e0 but non lucratif europ\u00e9enne, AI Forensics, qui a test\u00e9 pour confirmer que X avait bloqu\u00e9 certains r\u00e9sultats au Royaume-Uni. Un porte-parole a confirm\u00e9 que leurs tests n’incluaient pas la v\u00e9rification si des r\u00e9sultats nuisibles pouvaient \u00eatre g\u00e9n\u00e9r\u00e9s en utilisant le bouton de modification de X.<\/p>\n
AI Forensics pr\u00e9voit d’effectuer d’autres tests, mais son porte-parole a not\u00e9 qu’il serait contraire \u00e0 l’\u00e9thique de tester la fonctionnalit\u00e9 du bouton de modification que The Verge a confirm\u00e9 fonctionner toujours.<\/p>\n
L’ann\u00e9e derni\u00e8re, l’Institut Stanford pour l’intelligence artificielle centr\u00e9e sur l’humain a publi\u00e9 une recherche montrant que le Congr\u00e8s pourrait faire progresser la s\u00e9curit\u00e9 des mod\u00e8les en permettant aux entreprises technologiques de tester rigoureusement leurs mod\u00e8les g\u00e9n\u00e9ratifs sans crainte de poursuites pour tout test de r\u00e9sistance li\u00e9 au mat\u00e9riel d’abus sexuel d’enfants, a rapport\u00e9 Tech Policy Press. Mais jusqu’\u00e0 ce qu’un tel refuge soit cr\u00e9\u00e9, il semble plus probable que les outils d’IA nouvellement publi\u00e9s puissent comporter des risques comme ceux de Grok.<\/p>\n
Il est possible que les r\u00e9sultats de Grok, s’ils ne sont pas contr\u00f4l\u00e9s, puissent \u00e9ventuellement mettre X en violation de la loi Take It Down Act, qui entre en vigueur en mai et exige que les plateformes retirent rapidement la pornographie de vengeance g\u00e9n\u00e9r\u00e9e par IA. L’une des m\u00e8res de l’un des enfants de Musk, Ashley St. Clair, a d\u00e9crit les r\u00e9sultats de Grok utilisant ses images comme de la pornographie de vengeance.<\/p>\n
Alors que l’enqu\u00eate britannique se poursuit, Bonta n’a pas encore pr\u00e9cis\u00e9 quelles lois il soup\u00e7onne X de violer aux \u00c9tats-Unis. Cependant, il a soulign\u00e9 que les images montrant des victimes en tenue minimale franchissaient une ligne, ainsi que les images pla\u00e7ant des enfants dans des positions sexuelles.<\/p>\n
Alors que l’enqu\u00eate californienne s’intensifie, Bonta a pouss\u00e9 X \u00e0 prendre davantage de mesures pour restreindre les r\u00e9sultats de Grok, ce qu’un chercheur en IA a sugg\u00e9r\u00e9 \u00e0 Ars pourrait \u00eatre fait avec quelques simples mises \u00e0 jour.<\/p>\n
J’exhorte xAI \u00e0 prendre des mesures imm\u00e9diates pour s’assurer que cela n’aille pas plus loin, a d\u00e9clar\u00e9 Bonta. Nous avons une tol\u00e9rance z\u00e9ro pour la cr\u00e9ation et la diffusion par IA d’images intimes non consensuelles ou de mat\u00e9riel d’abus sexuel d’enfants.<\/p>\n","protected":false},"excerpt":{"rendered":"
Musk affirme que Grok a produit z\u00e9ro image d’enfant nu \u00e0 caract\u00e8re sexuel alors que les enqu\u00eates d\u00e9butent Apr\u00e8s plusieurs semaines durant lesquelles des images sexualis\u00e9es de femmes et d’enfants ont \u00e9t\u00e9 g\u00e9n\u00e9r\u00e9es avec Grok avec des interventions tr\u00e8s limit\u00e9es de la part de xAI d’Elon Musk, le procureur g\u00e9n\u00e9ral de Californie Rob Bonta pr\u00e9voit<\/p>\n","protected":false},"author":3,"featured_media":351,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[46],"tags":[],"class_list":["post-350","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-politique-3"],"_links":{"self":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/350","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/comments?post=350"}],"version-history":[{"count":0,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/350\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media\/351"}],"wp:attachment":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media?parent=350"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/categories?post=350"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/tags?post=350"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}