Des applications comme Grok sont explicitement interdites selon les r\u00e8gles de Google. Pourquoi est-elle toujours dans le Play Store?<\/p>\n
La soci\u00e9t\u00e9 xAI d’Elon Musk a r\u00e9cemment affaibli les garde-fous de contenu pour la g\u00e9n\u00e9ration d’images dans le robot d’IA Grok. Cela a conduit \u00e0 une nouvelle vague d’images sexuelles non consensuelles sur X, dont une grande partie visait \u00e0 faire taire les femmes sur la plateforme. Cela, ainsi que la cr\u00e9ation d’images sexualis\u00e9es d’enfants dans le Grok plus accommodant, a pouss\u00e9 les r\u00e9gulateurs \u00e0 commencer \u00e0 enqu\u00eater sur xAI. En attendant, Google a mis en place des r\u00e8gles exactement pour cette \u00e9ventualit\u00e9, mais ne les applique tout simplement pas.<\/p>\n
Les politiques publiquement disponibles de Google ne pourraient pas \u00eatre plus claires : Grok aurait d\u00fb \u00eatre banni hier. Et pourtant, l’application reste dans le Play Store. Non seulement cela, mais elle b\u00e9n\u00e9ficie d’une classification T pour Adolescents, un cran en dessous de l’application X class\u00e9e M. Apple propose \u00e9galement toujours l’application Grok sur sa plateforme, mais ses r\u00e8gles laissent en r\u00e9alit\u00e9 plus de marge de man\u0153uvre.<\/p>\n
Les restrictions de contenu des applications chez Apple et Google ont \u00e9volu\u00e9 de mani\u00e8re tr\u00e8s diff\u00e9rente. D\u00e8s le d\u00e9part, Apple a eu tendance \u00e0 supprimer des applications sur un coup de t\u00eate, si bien que les d\u00e9veloppeurs en sont venus \u00e0 s’attendre \u00e0 ce que les directives d’Apple ne mentionnent pas toutes les \u00e9ventualit\u00e9s possibles. Alors que Google est pass\u00e9 d’une attitude de laisser-faire \u00e0 un contr\u00f4le plus strict du Play Store, l’entreprise a progressivement ajout\u00e9 des clarifications dans sa politique de contenu. En cons\u00e9quence, les r\u00e8gles de Google sont \u00e9nonc\u00e9es sans \u00e9quivoque, et Grok les enfreint.<\/p>\n
Google dispose d’une page d’assistance d\u00e9di\u00e9e qui explique comment interpr\u00e9ter sa politique de \u00ab\u00a0Contenu inappropri\u00e9\u00a0\u00bb pour le Play Store. Comme Apple, les r\u00e8gles commencent par une interdiction des applications qui contiennent ou promeuvent du contenu sexuel, y compris, mais sans s’y limiter, la pornographie. C’est l\u00e0 qu’Apple s’arr\u00eate, mais Google continue en \u00e9num\u00e9rant d’autres types de contenu et d’exp\u00e9riences qu’il consid\u00e8re comme contraires aux r\u00e8gles.<\/p>\n
\u00ab\u00a0Nous n’autorisons pas les applications qui contiennent ou promeuvent du contenu associ\u00e9 \u00e0 un comportement sexuel pr\u00e9dateur, ou distribuent du contenu sexuel non consensuel\u00a0\u00bb, indique la politique du Play Store. Ainsi, la politique vise des applications comme Grok, mais cette ligne \u00e0 elle seule pourrait \u00eatre interpr\u00e9t\u00e9e comme se concentrant sur les applications pr\u00e9sentant du contenu sexuel \u00ab\u00a0r\u00e9el\u00a0\u00bb. Cependant, Google est tr\u00e8s minutieux et a utilement expliqu\u00e9 que cette r\u00e8gle couvre l’IA.<\/p>\n
La politique d\u00e9taill\u00e9e inclut des exemples de contenu qui violent cette r\u00e8gle, qui incluent une grande partie de ce \u00e0 quoi on pourrait s’attendre : rien d’obsc\u00e8ne ou de profane, pas de services d’escorte et pas de th\u00e8mes sexuels ill\u00e9gaux. Apr\u00e8s une vague d’applications rudimentaires de \u00ab\u00a0d\u00e9shabillage\u00a0\u00bb en 2020 et 2021, Google a ajout\u00e9 un libell\u00e9 \u00e0 cette page pr\u00e9cisant que \u00ab\u00a0les applications qui pr\u00e9tendent d\u00e9shabiller les gens\u00a0\u00bb ne sont pas autoris\u00e9es dans Google Play. En 2023, alors que le boom de l’IA se mettait en marche, Google a ajout\u00e9 une autre ligne pour noter qu’il supprimerait \u00e9galement les applications contenant \u00ab\u00a0du contenu sexuel non consensuel cr\u00e9\u00e9 via deepfake ou une technologie similaire\u00a0\u00bb.<\/p>\n
Cela vous rappelle des applications que vous connaissez?<\/p>\n
L’arch\u00e9type d’une application interdite, approuv\u00e9e pour les adolescents<\/p>\n
Prises ensemble, les descriptions de Google des applications interdites d\u00e9crivent l’application Grok \u00e0 la perfection. Google a fait ces ajouts au fur et \u00e0 mesure que de nouvelles menaces sont devenues apparentes, sachant que les d\u00e9veloppeurs essaieraient de publier des applications de d\u00e9shabillage par IA dans le Play Store. L’entreprise n’a apparemment pas pens\u00e9 que l’homme le plus riche du monde serait celui qui pousserait des outils d’humiliation num\u00e9rique sur sa plateforme. Et la r\u00e9ponse de Google \u00e0 cette situation jusqu’\u00e0 pr\u00e9sent a \u00e9t\u00e9 de ne rien faire.<\/p>\n
La r\u00e9action n\u00e9gative aux restrictions assouplies de xAI a pouss\u00e9 l’entreprise \u00e0 limiter l\u00e9g\u00e8rement l’acc\u00e8s \u00e0 l’\u00e9dition d’images. Vous ne pouvez plus \u00e9diter d’images sur X sans payer un abonnement premium. Cependant, l’application Grok n’a pas cette limitation. Toute personne qui t\u00e9l\u00e9charge Grok peut l’utiliser pour cr\u00e9er du contenu sexuel non consensuel.<\/p>\n
Puisque l’application est autoris\u00e9e pour les adolescents, m\u00eame les appareils avec des contr\u00f4les parentaux activ\u00e9s permettront aux jeunes de 13 \u00e0 17 ans de t\u00e9l\u00e9charger Grok. Il n’y a pas de paywall, et vous n’avez m\u00eame pas besoin de vous connecter avant d’\u00e9diter votre premi\u00e8re image. L’application demande \u00e0 l’utilisateur de confirmer son ann\u00e9e de naissance, mais les adolescents ne mentiraient jamais \u00e0 ce sujet, n’est-ce pas?<\/p>\n
Ce n’est pas le premier probl\u00e8me de xAI avec le contenu sexuel non consensuel. L’ann\u00e9e derni\u00e8re, l’IA a \u00e9t\u00e9 largement utilis\u00e9e pour cr\u00e9er de faux nus de Taylor Swift. Cependant, dans ce cas, les utilisateurs ne faisaient que soumettre le nom de la chanteuse au robot. Grok peut cr\u00e9er des images enti\u00e8rement nouvelles de personnes c\u00e9l\u00e8bres parce que les donn\u00e9es d’entra\u00eenement incluent de vraies images d’elles. La nouvelle capacit\u00e9 de Grok \u00e0 \u00ab\u00a0\u00e9diter\u00a0\u00bb des images de personnes est une fonctionnalit\u00e9 diff\u00e9rente et plus insidieuse car elle peut transformer n’importe qui en jouet d’IA.<\/p>\n
Ars a contact\u00e9 Google pour demander pourquoi Grok n’a pas \u00e9t\u00e9 supprim\u00e9 et pourquoi il a conserv\u00e9 une classification Adolescents. L’entreprise a refus\u00e9 de faire une d\u00e9claration pour le moment. Nous nous retrouvons donc avec une politique qui interdit explicitement les applications comme Grok, mais Google ne prend aucune mesure pour faire appliquer ces politiques, permettant aux adolescents influen\u00e7ables et aux individus louches de l’utiliser pour sexualiser des personnes r\u00e9elles.<\/p>\n","protected":false},"excerpt":{"rendered":"
Des applications comme Grok sont explicitement interdites selon les r\u00e8gles de Google. Pourquoi est-elle toujours dans le Play Store? La soci\u00e9t\u00e9 xAI d’Elon Musk a r\u00e9cemment affaibli les garde-fous de contenu pour la g\u00e9n\u00e9ration d’images dans le robot d’IA Grok. Cela a conduit \u00e0 une nouvelle vague d’images sexuelles non consensuelles sur X, dont une<\/p>\n","protected":false},"author":3,"featured_media":262,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[52],"tags":[],"class_list":["post-261","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-technologie-2"],"_links":{"self":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/261","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/comments?post=261"}],"version-history":[{"count":0,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/261\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media\/262"}],"wp:attachment":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media?parent=261"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/categories?post=261"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/tags?post=261"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}