Grok a finalement \u00e9t\u00e9 mis \u00e0 jour pour cesser de d\u00e9shabiller les femmes et les enfants, selon X Safety<\/p>\n
Fin mercredi, X Safety a confirm\u00e9 que Grok avait \u00e9t\u00e9 modifi\u00e9 pour cesser de d\u00e9shabiller les images de personnes sans leur consentement.<\/p>\n
Nous avons mis en \u0153uvre des mesures technologiques pour emp\u00eacher le compte Grok de permettre la modification d’images de personnes r\u00e9elles dans des v\u00eatements r\u00e9v\u00e9lateurs tels que des bikinis, a d\u00e9clar\u00e9 X Safety. Cette restriction s’applique \u00e0 tous les utilisateurs, y compris les abonn\u00e9s payants.<\/p>\n
La mise \u00e0 jour comprend la restriction de la cr\u00e9ation d’images et de la capacit\u00e9 \u00e0 modifier des images via le compte Grok sur la plateforme X, qui ne sont d\u00e9sormais disponibles que pour les abonn\u00e9s payants. Cela ajoute une couche de protection suppl\u00e9mentaire en aidant \u00e0 garantir que les personnes qui tentent d’abuser du compte Grok pour violer la loi ou nos politiques puissent \u00eatre tenues responsables, a d\u00e9clar\u00e9 X Safety.<\/p>\n
De plus, X va g\u00e9obloquer la capacit\u00e9 de tous les utilisateurs \u00e0 g\u00e9n\u00e9rer des images de personnes r\u00e9elles en bikinis, sous-v\u00eatements et tenues similaires via le compte Grok et dans Grok sur X dans les juridictions o\u00f9 c’est ill\u00e9gal, a d\u00e9clar\u00e9 X Safety.<\/p>\n
La mise \u00e0 jour de X intervient apr\u00e8s des semaines d’images sexualis\u00e9es de femmes et d’enfants g\u00e9n\u00e9r\u00e9es avec Grok, ce qui a finalement incit\u00e9 le procureur g\u00e9n\u00e9ral de Californie Rob Bonta \u00e0 enqu\u00eater pour savoir si les productions de Grok enfreignent des lois am\u00e9ricaines.<\/p>\n
Dans un communiqu\u00e9 de presse mercredi, Bonta a d\u00e9clar\u00e9 que xAI semble faciliter la production \u00e0 grande \u00e9chelle d’images intimes non consensuelles deepfake qui sont utilis\u00e9es pour harceler les femmes et les filles sur Internet, y compris via la plateforme de m\u00e9dias sociaux X.<\/p>\n
Notamment, Bonta semble aussi pr\u00e9occup\u00e9 par l’application autonome et le site Web de Grok utilis\u00e9s pour g\u00e9n\u00e9rer des images nuisibles sans consentement que par les productions sur X.<\/p>\n
Avant aujourd’hui, X n’avait pas restreint l’application ou le site Web de Grok. X avait seulement menac\u00e9 de suspendre d\u00e9finitivement les utilisateurs qui modifiaient des images pour d\u00e9shabiller les femmes et les enfants si les productions \u00e9taient jug\u00e9es contenu ill\u00e9gal. Il a \u00e9galement restreint le chatbot Grok sur X de r\u00e9pondre aux invites pour d\u00e9shabiller des images, mais toute personne disposant d’un abonnement Premium pouvait contourner cette restriction, tout comme n’importe quel utilisateur gratuit de X qui cliquait sur le bouton modifier sur n’importe quelle image apparaissant sur la plateforme sociale.<\/p>\n
Mercredi, avant la mise \u00e0 jour de X Safety, Elon Musk a sembl\u00e9 d\u00e9fendre les productions de Grok comme b\u00e9nignes, insistant sur le fait qu’aucune des images signal\u00e9es n’avait enti\u00e8rement d\u00e9shabill\u00e9 des mineurs, comme si c’\u00e9tait la seule production probl\u00e9matique.<\/p>\n
Je ne suis au courant d’aucune image nue de mineurs g\u00e9n\u00e9r\u00e9e par Grok, a d\u00e9clar\u00e9 Musk dans une publication X. Litt\u00e9ralement z\u00e9ro.<\/p>\n
La d\u00e9claration de Musk semble ignorer que des chercheurs ont trouv\u00e9 des images nuisibles o\u00f9 les utilisateurs ont sp\u00e9cifiquement demand\u00e9 que des mineurs soient mis dans des positions \u00e9rotiques et que des fluides sexuels soient repr\u00e9sent\u00e9s sur leurs corps. Elle ignore \u00e9galement que X s’\u00e9tait pr\u00e9c\u00e9demment engag\u00e9 volontairement \u00e0 supprimer tout abus d’image intime de sa plateforme, reconnaissant encore r\u00e9cemment en 2024 que m\u00eame des images partiellement nues que les victimes ne voudraient pas voir publi\u00e9es pourraient \u00eatre nuisibles.<\/p>\n
Aux \u00c9tats-Unis, le minist\u00e8re de la Justice consid\u00e8re toute repr\u00e9sentation visuelle de conduite sexuellement explicite impliquant une personne de moins de 18 ans comme de la pornographie infantile, \u00e9galement connue sous le nom de mat\u00e9riel d’abus sexuel sur enfants (CSAM).<\/p>\n
Le Centre national pour les enfants disparus et exploit\u00e9s, qui traite les signalements de CSAM trouv\u00e9s sur X, a d\u00e9clar\u00e9 \u00e0 Ars que les entreprises technologiques ont la responsabilit\u00e9 d’emp\u00eacher que leurs outils soient utilis\u00e9s pour sexualiser ou exploiter les enfants.<\/p>\n
Bien que de nombreuses productions de Grok ne soient pas consid\u00e9r\u00e9es comme du CSAM, en normalisant la sexualisation des enfants, Grok nuit aux mineurs, ont averti les d\u00e9fenseurs. Et en plus de trouver des images annonc\u00e9es comme du CSAM suppos\u00e9ment g\u00e9n\u00e9r\u00e9 par Grok sur le dark web, l’Internet Watch Foundation a not\u00e9 que les acteurs malveillants utilisent des images modifi\u00e9es par Grok pour cr\u00e9er des types encore plus extr\u00eames de CSAM IA.<\/p>\n
Grok fait face \u00e0 des enqu\u00eates aux \u00c9tats-Unis et au Royaume-Uni<\/p>\n
Bonta a soulign\u00e9 que les reportages documentant les pires productions de Grok \u00e9taient le d\u00e9clencheur de son enqu\u00eate.<\/p>\n
L’avalanche de rapports d\u00e9taillant le mat\u00e9riel sexuellement explicite non consensuel que xAI a produit et publi\u00e9 en ligne ces derni\u00e8res semaines est choquante, a d\u00e9clar\u00e9 Bonta. Ce mat\u00e9riel, qui repr\u00e9sente des femmes et des enfants dans des situations nues et sexuellement explicites, a \u00e9t\u00e9 utilis\u00e9 pour harceler des gens sur Internet.<\/p>\n
Agissant par profonde pr\u00e9occupation pour les victimes et les cibles potentielles de Grok, Bonta a promis de d\u00e9terminer si et comment xAI a viol\u00e9 la loi et d’utiliser tous les outils \u00e0 ma disposition pour assurer la s\u00e9curit\u00e9 des r\u00e9sidents de Californie.<\/p>\n
L’annonce de Bonta est intervenue apr\u00e8s que le Royaume-Uni a sembl\u00e9 d\u00e9clarer une victoire apr\u00e8s avoir enqu\u00eat\u00e9 sur Grok pour d’\u00e9ventuelles violations de la loi britannique sur la s\u00e9curit\u00e9 en ligne, annon\u00e7ant que les productions nuisibles avaient cess\u00e9.<\/p>\n
Ce n’\u00e9tait pas le cas, comme The Verge l’a une fois de plus soulign\u00e9; il a effectu\u00e9 des tests rapides et faciles en utilisant des selfies de journalistes pour conclure que rien n’avait chang\u00e9 pour emp\u00eacher les productions.<\/p>\n
Cependant, il semble que lorsque Musk a mis \u00e0 jour Grok pour r\u00e9pondre \u00e0 certaines demandes de d\u00e9shabiller des images en refusant les invites, cela a suffi au Premier ministre britannique Keir Starmer pour affirmer que X s’\u00e9tait conform\u00e9 \u00e0 la loi, a rapport\u00e9 Reuters.<\/p>\n
Ars a contact\u00e9 une association europ\u00e9enne \u00e0 but non lucratif, AI Forensics, qui a test\u00e9 pour confirmer que X avait bloqu\u00e9 certaines productions au Royaume-Uni. Un porte-parole a confirm\u00e9 que leurs tests n’incluaient pas l’examen de la question de savoir si des productions nuisibles pouvaient \u00eatre g\u00e9n\u00e9r\u00e9es en utilisant le bouton de modification de X.<\/p>\n
AI Forensics pr\u00e9voit d’effectuer d’autres tests, mais son porte-parole a not\u00e9 qu’il serait contraire \u00e0 l’\u00e9thique de tester la fonctionnalit\u00e9 du bouton modifier que The Verge a confirm\u00e9 fonctionner toujours.<\/p>\n
L’ann\u00e9e derni\u00e8re, le Stanford Institute for Human-Centered Artificial Intelligence a publi\u00e9 une recherche montrant que le Congr\u00e8s pourrait faire avancer la s\u00e9curit\u00e9 des mod\u00e8les en permettant aux entreprises technologiques de tester rigoureusement leurs mod\u00e8les g\u00e9n\u00e9ratifs sans crainte de poursuites pour tout test de r\u00e9sistance CSAM, a rapport\u00e9 Tech Policy Press. Mais jusqu’\u00e0 ce qu’un tel refuge soit cr\u00e9\u00e9, il semble plus probable que les outils d’IA nouvellement publi\u00e9s puissent comporter des risques comme ceux de Grok.<\/p>\n
Il est possible que les productions de Grok, si elles ne sont pas contr\u00f4l\u00e9es, auraient pu \u00e9ventuellement mettre X en violation de la Take It Down Act, qui entre en vigueur en mai et exige que les plateformes suppriment rapidement la pornographie de vengeance IA. L’une des m\u00e8res de l’un des enfants de Musk, Ashley St. Clair, a d\u00e9crit les productions de Grok utilisant ses images comme de la pornographie de vengeance.<\/p>\n
Alors que l’enqu\u00eate britannique se poursuit, Bonta n’a pas encore pr\u00e9cis\u00e9 quelles lois il soup\u00e7onne X de violer aux \u00c9tats-Unis. Cependant, il a soulign\u00e9 que les images repr\u00e9sentant des victimes dans des v\u00eatements minimaux franchissaient une ligne, ainsi que les images mettant des enfants dans des positions sexuelles.<\/p>\n
Alors que l’enqu\u00eate californienne s’intensifie, Bonta a pouss\u00e9 X \u00e0 prendre plus de mesures pour restreindre les productions de Grok, ce qu’un chercheur en IA a sugg\u00e9r\u00e9 \u00e0 Ars pourrait \u00eatre fait avec quelques mises \u00e0 jour simples.<\/p>\n
J’exhorte xAI \u00e0 prendre des mesures imm\u00e9diates pour garantir que cela n’aille pas plus loin, a d\u00e9clar\u00e9 Bonta. Nous avons une tol\u00e9rance z\u00e9ro pour la cr\u00e9ation et la diffusion bas\u00e9es sur l’IA d’images intimes non consensuelles ou de mat\u00e9riel d’abus sexuel sur enfants.<\/p>\n
Semblant prendre la menace de Bonta au s\u00e9rieux, X Safety a promis de rester engag\u00e9 \u00e0 faire de X une plateforme s\u00fbre pour tous et de continuer \u00e0 avoir une tol\u00e9rance z\u00e9ro pour toutes les formes d’exploitation sexuelle d’enfants, de nudit\u00e9 non consensuelle et de contenu sexuel non d\u00e9sir\u00e9.<\/p>\n","protected":false},"excerpt":{"rendered":"
Grok a finalement \u00e9t\u00e9 mis \u00e0 jour pour cesser de d\u00e9shabiller les femmes et les enfants, selon X Safety Fin mercredi, X Safety a confirm\u00e9 que Grok avait \u00e9t\u00e9 modifi\u00e9 pour cesser de d\u00e9shabiller les images de personnes sans leur consentement. Nous avons mis en \u0153uvre des mesures technologiques pour emp\u00eacher le compte Grok de<\/p>\n","protected":false},"author":3,"featured_media":359,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[52],"tags":[],"class_list":["post-358","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-technologie-2"],"_links":{"self":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/358","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/comments?post=358"}],"version-history":[{"count":0,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/358\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media\/359"}],"wp:attachment":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media?parent=358"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/categories?post=358"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/tags?post=358"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}