Demander \u00e0 Grok de supprimer de faux nus pourrait forcer les victimes \u00e0 poursuivre dans le tribunal choisi par Musk<\/p>\n
Des journalistes et des militants ont tent\u00e9 de comprendre combien de victimes au total ont \u00e9t\u00e9 l\u00e9s\u00e9es par le scandale de d\u00e9nudification de Grok apr\u00e8s que xAI a retard\u00e9 la restriction des sorties et que les magasins d’applications ont refus\u00e9 de couper l’acc\u00e8s pendant plusieurs jours.<\/p>\n
Les derni\u00e8res estimations montrent que peut-\u00eatre des millions de personnes ont \u00e9t\u00e9 l\u00e9s\u00e9es dans les jours qui ont imm\u00e9diatement suivi la promotion par Elon Musk de la fonction de d\u00e9shabillage de Grok sur son propre flux X en publiant une photo de lui-m\u00eame en bikini.<\/p>\n
En seulement 11 jours apr\u00e8s la publication de Musk, Grok a sexualis\u00e9 plus de 3 millions d’images, dont 23 000 \u00e9taient d’enfants, a estim\u00e9 le Center for Countering Digital Hate (CCDH) dans une recherche publi\u00e9e jeudi.<\/p>\n
Ce chiffre peut \u00eatre gonfl\u00e9, puisque le CCDH n’a pas analys\u00e9 les invites et n’a pas pu d\u00e9terminer si les images \u00e9taient d\u00e9j\u00e0 sexuelles avant l’\u00e9dition de Grok. Cependant, The New York Times a partag\u00e9 le rapport du CCDH aux c\u00f4t\u00e9s de sa propre analyse, estimant de mani\u00e8re conservatrice qu’environ 41 pour cent (1,8 million) des 4,4 millions d’images g\u00e9n\u00e9r\u00e9es par Grok entre le 31 d\u00e9cembre et le 8 janvier ont sexualis\u00e9 des hommes, des femmes et des enfants.<\/p>\n
Pour xAI et X, le scandale a apport\u00e9 un examen minutieux, mais il a \u00e9galement contribu\u00e9 \u00e0 augmenter l’engagement sur X \u00e0 un moment o\u00f9 l’application rivale de Meta, Threads, a commenc\u00e9 \u00e0 prendre de l’avance sur X dans l’utilisation quotidienne par les utilisateurs d’appareils mobiles, a rapport\u00e9 TechCrunch. Sans mentionner Grok, le responsable produit de X, Nikita Bier, a c\u00e9l\u00e9br\u00e9 les \u00ab\u00a0jours d’engagement les plus \u00e9lev\u00e9s sur X\u00a0\u00bb dans une publication X le 6 janvier, quelques jours seulement avant que X ne commence enfin \u00e0 restreindre certaines des sorties de Grok pour les utilisateurs gratuits.<\/p>\n
Que xAI ait ou non eu l’intention que le scandale Grok augmente l’utilisation de X et Grok, cela semble \u00eatre le r\u00e9sultat. Le Times a trac\u00e9 les tendances de Grok et a constat\u00e9 que dans les neuf jours pr\u00e9c\u00e9dant la publication de Musk, combin\u00e9s, Grok n’a \u00e9t\u00e9 utilis\u00e9 qu’environ 300 000 fois pour g\u00e9n\u00e9rer des images, mais apr\u00e8s la publication de Musk, \u00ab\u00a0le nombre d’images cr\u00e9\u00e9es par Grok a bondi \u00e0 pr\u00e8s de 600 000 par jour\u00a0\u00bb sur X.<\/p>\n
Dans un article d\u00e9clarant que \u00ab\u00a0Elon Musk ne peut pas s’en tirer comme \u00e7a\u00a0\u00bb, des r\u00e9dacteurs de The Atlantic ont sugg\u00e9r\u00e9 que les utilisateurs de X \u00ab\u00a0semblaient s’imiter et se montrer les uns aux autres\u00a0\u00bb, croyant qu’utiliser Grok pour cr\u00e9er de la pornographie de vengeance \u00ab\u00a0peut vous rendre c\u00e9l\u00e8bre\u00a0\u00bb.<\/p>\n
X a pr\u00e9c\u00e9demment averti que les utilisateurs de X qui g\u00e9n\u00e8rent du contenu ill\u00e9gal risquent des suspensions permanentes, mais X n’a pas confirm\u00e9 si des utilisateurs ont \u00e9t\u00e9 bannis depuis que le toll\u00e9 public sur les sorties de Grok a commenc\u00e9. Ars a demand\u00e9 et mettra \u00e0 jour cet article si X fournit une r\u00e9ponse.<\/p>\n
xAI combat une victime qui a suppli\u00e9 Grok de retirer des images<\/p>\n
Au d\u00e9but, X a seulement limit\u00e9 l’\u00e9dition d’images de Grok pour certains utilisateurs gratuits, ce qui, selon The Atlantic, donnait l’impression que X \u00ab\u00a0commercialisait essentiellement des images sexuelles non consensuelles comme une fonctionnalit\u00e9 payante de la plateforme\u00a0\u00bb.<\/p>\n
Mais ensuite, le 14 janvier, X a pris sa mesure la plus forte pour restreindre les sorties nuisibles de Grok, bloquant les sorties demand\u00e9es par les utilisateurs X gratuits et payants. Ce mouvement est venu apr\u00e8s que plusieurs pays, peut-\u00eatre le plus particuli\u00e8rement le Royaume-Uni, et au moins un \u00c9tat, la Californie, ont lanc\u00e9 des enqu\u00eates.<\/p>\n
Crucialement, les mises \u00e0 jour de X ne s’appliquaient pas \u00e0 l’application ou au site Web Grok, cependant, qui peuvent apparemment encore \u00eatre utilis\u00e9s pour g\u00e9n\u00e9rer des images non consensuelles.<\/p>\n
C’est un probl\u00e8me pour les victimes cibl\u00e9es par les utilisateurs de X, selon Carrie Goldberg, une avocate repr\u00e9sentant Ashley St. Clair, l’une des premi\u00e8res victimes de Grok \u00e0 poursuivre xAI ; St. Clair est \u00e9galement la m\u00e8re d’un des enfants de Musk.<\/p>\n
Goldberg a d\u00e9clar\u00e9 \u00e0 Ars que des victimes comme St. Clair veulent des changements sur toutes les plateformes Grok, pas seulement X. Mais il n’est pas facile de \u00ab\u00a0contraindre ce genre de changement de produit dans un proc\u00e8s\u00a0\u00bb, a d\u00e9clar\u00e9 Goldberg. C’est pourquoi St. Clair esp\u00e8re que le tribunal acceptera que Grok soit une nuisance publique, une r\u00e9clamation qui fournit une certaine r\u00e9paration injonctive pour pr\u00e9venir des dommages sociaux plus larges si elle gagne.<\/p>\n
Actuellement, St. Clair demande une injonction temporaire qui emp\u00eacherait Grok de g\u00e9n\u00e9rer des images nuisibles d’elle. Mais avant qu’elle ne puisse obtenir cette ordonnance, si elle veut avoir une chance \u00e9quitable de gagner l’affaire, St. Clair doit combattre une contre-poursuite de xAI qui tente de d\u00e9placer son proc\u00e8s dans le tribunal pr\u00e9f\u00e9r\u00e9 de Musk au Texas, sugg\u00e8re un r\u00e9cent d\u00e9p\u00f4t de tribunal.<\/p>\n
Dans ce combat, xAI argue que St. Clair est li\u00e9e par les conditions d’utilisation de xAI, qui ont \u00e9t\u00e9 mises \u00e0 jour le jour apr\u00e8s qu’elle ait notifi\u00e9 l’entreprise de son intention de poursuivre.<\/p>\n
De mani\u00e8re alarmante, xAI a argument\u00e9 que St. Clair a effectivement accept\u00e9 les conditions d’utilisation lorsqu’elle a commenc\u00e9 \u00e0 demander \u00e0 Grok de supprimer ses images non consensuelles, ce qui est la seule fa\u00e7on dont les utilisateurs de X devaient faire retirer rapidement les images, a all\u00e9gu\u00e9 St. Clair. Il semble que xAI esp\u00e8re transformer des moments de d\u00e9sespoir, o\u00f9 les victimes supplient Grok de retirer des images, en un bouclier juridique.<\/p>\n
Dans le d\u00e9p\u00f4t, Goldberg a \u00e9crit que le proc\u00e8s de St. Clair n’a rien \u00e0 voir avec sa propre utilisation de Grok, notant que les images harcelantes auraient pu \u00eatre faites m\u00eame si elle n’avait jamais utilis\u00e9 aucun des produits de xAI. Pour cette seule raison, xAI ne devrait pas pouvoir forcer un changement de lieu.<\/p>\n
De plus, l’utilisation de Grok par St. Clair \u00e9tait clairement sous contrainte, a argument\u00e9 Goldberg, notant qu’une des photos que Grok a \u00e9dit\u00e9es montrait le sac \u00e0 dos du tout-petit de St. Clair.<\/p>\n
\u00ab\u00a0RETIREZ-LE !!!\u00a0\u00bb a demand\u00e9 St. Clair \u00e0 Grok, se sentant pr\u00e9tendument de plus en plus vuln\u00e9rable \u00e0 chaque seconde o\u00f9 les images restaient en ligne.<\/p>\n
Goldberg a \u00e9crit que Barry Murphy, un employ\u00e9 de la S\u00e9curit\u00e9 de X, a fourni un affidavit affirmant que cette instance et d’autres o\u00f9 St. Clair \u00ab\u00a0suppliait @Grok de retirer du contenu ill\u00e9gal constituent un consentement aux conditions d’utilisation de xAI\u00a0\u00bb.<\/p>\n
Mais \u00ab\u00a0cela ne peut pas \u00eatre le cas\u00a0\u00bb, a argument\u00e9 Goldberg.<\/p>\n
Confront\u00e9e \u00e0 \u00ab\u00a0la menace implicite que Grok garderait les images de St. Clair en ligne et, possiblement, en cr\u00e9erait davantage\u00a0\u00bb, St. Clair avait peu de choix sinon d’interagir avec Grok, a argument\u00e9 Goldberg. Et cette sollicitation ne devrait pas vider les protections en vertu de la loi de New York que St. Clair cherche \u00e0 revendiquer dans son proc\u00e8s, a argument\u00e9 Goldberg, demandant au tribunal d’annuler le contrat xAI de St. Clair et de rejeter la motion de xAI pour changer de lieu.<\/p>\n
Si St. Clair gagne son combat pour garder le proc\u00e8s \u00e0 New York, l’affaire pourrait aider \u00e0 \u00e9tablir un pr\u00e9c\u00e9dent pour peut-\u00eatre des millions d’autres victimes qui pourraient envisager une action en justice mais craignent d’affronter xAI dans le tribunal choisi par Musk.<\/p>\n
\u00ab\u00a0Il serait injuste de s’attendre \u00e0 ce que St. Clair plaide dans un \u00c9tat si \u00e9loign\u00e9 de sa r\u00e9sidence, et il se peut que le proc\u00e8s au Texas soit si difficile et peu pratique que St. Clair sera effectivement priv\u00e9e de son jour au tribunal\u00a0\u00bb, a argument\u00e9 Goldberg.<\/p>\n
Grok pourrait continuer \u00e0 nuire aux enfants<\/p>\n
Le volume estim\u00e9 d’images sexualis\u00e9es rapport\u00e9 cette semaine est alarmant car il sugg\u00e8re que Grok, au pic du scandale, pourrait avoir g\u00e9n\u00e9r\u00e9 plus de mat\u00e9riel d’abus sexuel d’enfants (CSAM) que X n’en trouve sur sa plateforme chaque mois.<\/p>\n
En 2024, X Safety a signal\u00e9 686 176 instances de CSAM au National Center for Missing and Exploited Children, ce qui en moyenne repr\u00e9sente environ 57 000 rapports CSAM chaque mois. Si l’estimation du CCDH de 23 000 sorties de Grok qui sexualisent des enfants sur une p\u00e9riode de 11 jours est exacte, alors un total mensuel moyen aurait pu d\u00e9passer 62 000 si Grok \u00e9tait laiss\u00e9 sans contr\u00f4le.<\/p>\n
Le NCMEC n’a pas imm\u00e9diatement r\u00e9pondu \u00e0 la demande de commentaire d’Ars sur la fa\u00e7on dont le volume estim\u00e9 de CSAM de Grok se compare aux rapports CSAM moyens de X. Mais le NCMEC a pr\u00e9c\u00e9demment d\u00e9clar\u00e9 \u00e0 Ars que \u00ab\u00a0qu’une image soit r\u00e9elle ou g\u00e9n\u00e9r\u00e9e par ordinateur, le pr\u00e9judice est r\u00e9el et le mat\u00e9riel est ill\u00e9gal\u00a0\u00bb. Cela sugg\u00e8re que Grok pourrait rester une \u00e9pine dans le pied du NCMEC, car le CCDH a averti que m\u00eame lorsque X supprime des publications nuisibles de Grok, \u00ab\u00a0les images pouvaient toujours \u00eatre accessibles via des URL s\u00e9par\u00e9es\u00a0\u00bb, sugg\u00e9rant que le CSAM de Grok et d’autres sorties nuisibles pourraient continuer \u00e0 se propager. Le CCDH a \u00e9galement trouv\u00e9 des instances de pr\u00e9sum\u00e9 CSAM que X n’avait pas supprim\u00e9es au 15 janvier.<\/p>\n
C’est pourquoi les experts en s\u00e9curit\u00e9 des enfants ont plaid\u00e9 pour plus de tests afin de s’assurer que les outils d’IA comme Grok ne d\u00e9ploient pas de capacit\u00e9s comme la fonction de d\u00e9shabillage. Le NCMEC a pr\u00e9c\u00e9demment d\u00e9clar\u00e9 \u00e0 Ars que \u00ab\u00a0les entreprises technologiques ont la responsabilit\u00e9 d’emp\u00eacher que leurs outils soient utilis\u00e9s pour sexualiser ou exploiter les enfants\u00a0\u00bb. Au milieu d’une augmentation du CSAM g\u00e9n\u00e9r\u00e9 par l’IA, l’Internet Watch Foundation du Royaume-Uni a \u00e9galement averti qu'\u00a0\u00bbil est inacceptable qu’une technologie soit publi\u00e9e qui permet aux criminels de cr\u00e9er ce contenu\u00a0\u00bb.<\/p>\n
Les annonceurs, investisseurs et partenaires de xAI restent silencieux<\/p>\n
Pourtant, pour Musk et xAI, il n’y a pas encore eu de cons\u00e9quences significatives pour les sorties controvers\u00e9es de Grok.<\/p>\n
Il est possible que des enqu\u00eates r\u00e9cemment lanc\u00e9es aboutissent \u00e0 des actions l\u00e9gales en Californie ou \u00e0 des amendes au Royaume-Uni ou ailleurs, mais ces enqu\u00eates prendront probablement des mois \u00e0 conclure.<\/p>\n
Alors que les l\u00e9gislateurs am\u00e9ricains ont fait peu pour intervenir, certains s\u00e9nateurs d\u00e9mocrates ont tent\u00e9 de demander aux PDG de Google et Apple pourquoi X et l’application Grok n’ont jamais \u00e9t\u00e9 restreints dans leurs magasins d’applications, exigeant une r\u00e9ponse avant le 23 janvier. Un jour avant cette date limite, les s\u00e9nateurs ont confirm\u00e9 \u00e0 Ars qu’ils n’avaient re\u00e7u aucune r\u00e9ponse.<\/p>\n
Sans surprise, ni Google ni Apple n’ont r\u00e9pondu \u00e0 la demande d’Ars de confirmer si une r\u00e9ponse arrive ou de fournir des d\u00e9clarations sur leurs d\u00e9cisions de garder les applications accessibles. Les deux entreprises sont rest\u00e9es silencieuses pendant des semaines, ainsi que d’autres grandes entreprises technologiques qui semblent avoir peur de s’exprimer contre le chatbot de Musk.<\/p>\n
Microsoft et Oracle, qui \u00ab\u00a0ex\u00e9cutent Grok sur leurs services cloud\u00a0\u00bb, ainsi que Nvidia et Advanced Micro Devices, \u00ab\u00a0qui vendent \u00e0 xAI les puces informatiques n\u00e9cessaires pour entra\u00eener et ex\u00e9cuter Grok\u00a0\u00bb, ont refus\u00e9 la demande de commentaire de The Atlantic sur la fa\u00e7on dont le scandale a impact\u00e9 leurs d\u00e9cisions de s’associer avec xAI. De plus, une douzaine d’investisseurs cl\u00e9s de xAI n’ont tout simplement pas r\u00e9pondu lorsque The Atlantic a demand\u00e9 si \u00ab\u00a0ils continueraient \u00e0 s’associer avec xAI en l’absence de changement des produits de l’entreprise\u00a0\u00bb.<\/p>\n
De m\u00eame, des dizaines d’annonceurs ont refus\u00e9 la demande de Popular Information d’expliquer pourquoi il n’y avait pas eu de boycott publicitaire sur les rapports CSAM de Grok. Cela inclut des entreprises qui ont autrefois boycott\u00e9 X suite \u00e0 une publication antis\u00e9mite de Musk, comme \u00ab\u00a0Amazon, Microsoft et Google, qui ont tous fait de la publicit\u00e9 sur X ces derniers jours\u00a0\u00bb, a rapport\u00e9 Popular Information.<\/p>\n
Il est possible que les annonceurs craignent la col\u00e8re juridique de Musk s’ils boycottent ses plateformes. Le CCDH a surmont\u00e9 un proc\u00e8s de Musk l’ann\u00e9e derni\u00e8re, mais celui-ci est en attente d’appel. Et le pr\u00e9tendu proc\u00e8s \u00ab\u00a0thermonucl\u00e9aire\u00a0\u00bb de Musk contre les annonceurs reste en cours, avec une date de proc\u00e8s fix\u00e9e pour cet octobre.<\/p>\n
The Atlantic a sugg\u00e9r\u00e9 que les parties prenantes de xAI esp\u00e8rent probablement que le scandale Grok se dissipera et qu’elles s’en sortiront indemnes en restant silencieuses. Mais jusqu’\u00e0 pr\u00e9sent, la r\u00e9action n\u00e9gative semble \u00eatre rest\u00e9e forte, peut-\u00eatre parce que, bien que \u00ab\u00a0les deepfakes ne soient pas nouveaux\u00a0\u00bb, xAI \u00ab\u00a0en a fait un probl\u00e8me beaucoup plus important qu’auparavant\u00a0\u00bb, a estim\u00e9 The Atlantic.<\/p>\n
\u00ab\u00a0L’un des plus grands forums d\u00e9di\u00e9s \u00e0 la cr\u00e9ation de fausses images de personnes r\u00e9elles\u00a0\u00bb, Mr. Deepfakes, a ferm\u00e9 en 2024 apr\u00e8s une r\u00e9action publique n\u00e9gative sur 43 000 vid\u00e9os deepfake sexuelles repr\u00e9sentant environ 3 800 individus, a rapport\u00e9 le NYT. Si les estimations les plus r\u00e9centes des deepfakes de Grok sont exactes, xAI montre combien plus de d\u00e9g\u00e2ts peuvent \u00eatre faits lorsque la d\u00e9nudification devient une fonctionnalit\u00e9 de l’un des plus grands r\u00e9seaux sociaux du monde, et que personne qui a le pouvoir de l’arr\u00eater ne bouge pour intervenir.<\/p>\n
\u00ab\u00a0Il s’agit d’abus \u00e0 l’\u00e9chelle industrielle de femmes et de filles\u00a0\u00bb, a d\u00e9clar\u00e9 Imran Ahmed, le directeur g\u00e9n\u00e9ral du<\/p>\n","protected":false},"excerpt":{"rendered":"
Demander \u00e0 Grok de supprimer de faux nus pourrait forcer les victimes \u00e0 poursuivre dans le tribunal choisi par Musk Des journalistes et des militants ont tent\u00e9 de comprendre combien de victimes au total ont \u00e9t\u00e9 l\u00e9s\u00e9es par le scandale de d\u00e9nudification de Grok apr\u00e8s que xAI a retard\u00e9 la restriction des sorties et que<\/p>\n","protected":false},"author":3,"featured_media":509,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[46],"tags":[],"class_list":["post-508","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-politique-3"],"_links":{"self":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/508","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/comments?post=508"}],"version-history":[{"count":0,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/508\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media\/509"}],"wp:attachment":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media?parent=508"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/categories?post=508"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/tags?post=508"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}