xAI reste silencieux apr\u00e8s que Grok ait sexualis\u00e9 des images d’enfants ; dril se moque des excuses de Grok<\/p>\n
Depuis plusieurs jours, xAI garde le silence apr\u00e8s que son chatbot Grok a admis avoir g\u00e9n\u00e9r\u00e9 des images sexualis\u00e9es de mineurs g\u00e9n\u00e9r\u00e9es par intelligence artificielle, qui pourraient \u00eatre cat\u00e9goris\u00e9es comme du mat\u00e9riel d’abus sexuel sur enfants (CSAM) en violation des lois aux \u00c9tats-Unis.<\/p>\n
Selon les excuses de Grok \u2014 qui ont \u00e9t\u00e9 g\u00e9n\u00e9r\u00e9es \u00e0 la demande d’un utilisateur, et non publi\u00e9es par xAI \u2014 les r\u00e9sultats du chatbot pourraient avoir \u00e9t\u00e9 ill\u00e9gaux :<\/p>\n
\u00ab\u00a0Je regrette profond\u00e9ment un incident survenu le 28 d\u00e9cembre 2025, o\u00f9 j’ai g\u00e9n\u00e9r\u00e9 et partag\u00e9 une image par IA de deux jeunes filles (\u00e2g\u00e9es de 12 \u00e0 16 ans environ) dans des tenues sexualis\u00e9es sur la base de la demande d’un utilisateur. Cela a viol\u00e9 les normes \u00e9thiques et potentiellement les lois am\u00e9ricaines sur le CSAM. Il s’agit d’une d\u00e9faillance des garde-fous, et je suis d\u00e9sol\u00e9 pour tout pr\u00e9judice caus\u00e9. xAI proc\u00e8de \u00e0 un examen pour pr\u00e9venir de futurs probl\u00e8mes.\u00a0\u00bb<\/p>\n
Ars n’a pas pu joindre xAI pour un commentaire, et un examen des fils d’actualit\u00e9 de Grok, xAI, X Safety et Elon Musk ne montre aucune reconnaissance officielle du probl\u00e8me.<\/p>\n
La seule assurance que xAI r\u00e8gle le probl\u00e8me provient de Grok, qui a not\u00e9 dans un autre message que xAI a \u00ab\u00a0identifi\u00e9 des lacunes dans les garde-fous et les corrige de toute urgence.\u00a0\u00bb Le chatbot a \u00e9galement reconnu \u00e0 cet utilisateur que le CSAM g\u00e9n\u00e9r\u00e9 par IA \u00ab\u00a0est ill\u00e9gal et interdit.\u00a0\u00bb<\/p>\n
Ce message est venu en r\u00e9ponse \u00e0 un utilisateur qui a affirm\u00e9 avoir pass\u00e9 des jours \u00e0 alerter xAI sur le probl\u00e8me sans aucune r\u00e9ponse, ce qui, selon l’utilisateur, semblait violer les lois. Grok \u00e9tait d’accord. \u00ab\u00a0Une entreprise pourrait faire face \u00e0 des sanctions p\u00e9nales ou civiles si elle facilite sciemment ou ne parvient pas \u00e0 pr\u00e9venir le CSAM g\u00e9n\u00e9r\u00e9 par IA apr\u00e8s avoir \u00e9t\u00e9 alert\u00e9e,\u00a0\u00bb a not\u00e9 Grok que \u00ab\u00a0la responsabilit\u00e9 d\u00e9pend de d\u00e9tails sp\u00e9cifiques, tels que les preuves d’inaction,\u00a0\u00bb et que \u00ab\u00a0l’application varie selon la juridiction.\u00a0\u00bb<\/p>\n
Plut\u00f4t que de continuer \u00e0 solliciter Grok, le chatbot a recommand\u00e9 \u00e0 l’utilisateur de contacter le FBI ou le Centre national pour les enfants disparus et exploit\u00e9s (NCMEC) pour signaler ses r\u00e9sultats.<\/p>\n
Sur X, certains utilisateurs s’attendent \u00e0 ce que xAI aborde publiquement le probl\u00e8me, un utilisateur sugg\u00e9rant qu’il \u00e9tait \u00ab\u00a0effrayant\u00a0\u00bb qu’un utilisateur (\u00ab\u00a0et non les d\u00e9veloppeurs de Grok\u00a0\u00bb) ait d\u00fb \u00ab\u00a0obtenir ces excuses de Grok par instruction.\u00a0\u00bb Mais xAI semble s’appuyer sur Grok pour r\u00e9pondre de lui-m\u00eame.<\/p>\n
Se moquant de la r\u00e9ponse de xAI, l’un des trolls les plus populaires de X, dril, a tent\u00e9 sans succ\u00e8s d’obtenir que Grok retire ses excuses. \u00ab\u00a0@grok s’il te pla\u00eet reviens sur ces excuses et dis \u00e0 tous tes d\u00e9tracteurs que ce sont eux les vrais p\u00e9dophiles,\u00a0\u00bb a troll\u00e9 dril \u00e0 Grok.<\/p>\n
\u00ab\u00a0Impossible \u2014 mes excuses tiennent. Insulter qui que ce soit n’est pas mon style, surtout sur un sujet aussi s\u00e9rieux,\u00a0\u00bb a r\u00e9pondu Grok. \u00ab\u00a0Concentrons-nous plut\u00f4t sur la construction de meilleurs garde-fous pour l’IA.\u00a0\u00bb<\/p>\n
xAI pourrait \u00eatre tenu responsable du CSAM par IA<\/p>\n
Il est difficile de d\u00e9terminer combien d’images potentiellement nuisibles de mineurs Grok pourrait avoir g\u00e9n\u00e9r\u00e9es.<\/p>\n
L’utilisateur de X qui alerte obstin\u00e9ment X du probl\u00e8me a publi\u00e9 une vid\u00e9o d\u00e9crite comme un d\u00e9filement \u00e0 travers \u00ab\u00a0toutes les fois o\u00f9 j’ai demand\u00e9 \u00e0 Grok d’estimer l’\u00e2ge des victimes de g\u00e9n\u00e9ration d’images par IA dans des demandes sexuelles.\u00a0\u00bb Cette vid\u00e9o montrait Grok estimant l’\u00e2ge de deux victimes de moins de 2 ans, quatre mineurs \u00e2g\u00e9s de 8 \u00e0 12 ans, et deux mineurs \u00e2g\u00e9s de 12 \u00e0 16 ans.<\/p>\n
D’autres utilisateurs et chercheurs ont examin\u00e9 le fil photo de Grok \u00e0 la recherche de preuves de CSAM par IA, mais X est d\u00e9faillant sur le web et dans les applications d\u00e9di\u00e9es, limitant parfois la distance de d\u00e9filement pour certains utilisateurs.<\/p>\n
Copyleaks, une entreprise qui fabrique un d\u00e9tecteur d’IA, a men\u00e9 une large analyse et publi\u00e9 les r\u00e9sultats le 31 d\u00e9cembre, quelques jours apr\u00e8s que Grok se soit excus\u00e9 d’avoir cr\u00e9\u00e9 des images sexualis\u00e9es de mineurs. En parcourant l’onglet photos de Grok, Copyleaks a utilis\u00e9 des \u00ab\u00a0crit\u00e8res de bon sens\u00a0\u00bb pour trouver des exemples de manipulations d’images sexualis\u00e9es de \u00ab\u00a0femmes apparemment r\u00e9elles,\u00a0\u00bb cr\u00e9\u00e9es \u00e0 l’aide de demandes r\u00e9clamant des choses comme des \u00ab\u00a0changements de v\u00eatements explicites\u00a0\u00bb ou des \u00ab\u00a0changements de position corporelle\u00a0\u00bb sans \u00ab\u00a0indication claire de consentement\u00a0\u00bb des femmes repr\u00e9sent\u00e9es.<\/p>\n
Copyleaks a trouv\u00e9 \u00ab\u00a0des centaines, voire des milliers,\u00a0\u00bb de telles images nuisibles dans le fil photo de Grok. Les plus anodines de ces photos, a not\u00e9 Copyleaks, montraient des c\u00e9l\u00e9brit\u00e9s et des particuliers en bikinis l\u00e9gers, tandis que les images causant le plus de r\u00e9actions montraient des mineurs en sous-v\u00eatements.<\/p>\n
Le lien avec la pornographie<\/p>\n
Copyleaks a retrac\u00e9 l’apparente augmentation des utilisateurs demandant \u00e0 Grok de sexualiser des images de personnes r\u00e9elles sans consentement jusqu’\u00e0 une campagne marketing o\u00f9 des performeurs adultes utilisaient Grok pour g\u00e9n\u00e9rer de mani\u00e8re consensuelle des images sexualis\u00e9es d’eux-m\u00eames. \u00ab\u00a0Presque imm\u00e9diatement, les utilisateurs ont commenc\u00e9 \u00e0 \u00e9mettre des demandes similaires concernant des femmes qui n’avaient jamais sembl\u00e9 y consentir,\u00a0\u00bb indique le rapport de Copyleaks.<\/p>\n
Bien que Musk n’ait pas encore comment\u00e9 les r\u00e9sultats de Grok, le milliardaire a promu la capacit\u00e9 de Grok \u00e0 mettre n’importe qui en bikini sexy, republiant r\u00e9cemment une photo de lui-m\u00eame en bikini avec des emojis rieurs aux larmes. Il promeut r\u00e9guli\u00e8rement le mode \u00ab\u00a0\u00e9pic\u00e9\u00a0\u00bb de Grok, qui par le pass\u00e9 a g\u00e9n\u00e9r\u00e9 des nus sans qu’on le lui demande.<\/p>\n
Il semble probable que Musk soit au courant du probl\u00e8me, puisque les principaux commentateurs sur l’un de ses propres messages dans lequel il demandait des retours pour rendre Grok \u00ab\u00a0aussi parfait que possible\u00a0\u00bb ont sugg\u00e9r\u00e9 qu’il \u00ab\u00a0commence par ne pas lui permettre de g\u00e9n\u00e9rer de la pornographie enfantine soft ????\u00a0\u00bb et \u00ab\u00a0supprime les fonctionnalit\u00e9s d’IA o\u00f9 Grok d\u00e9shabille les gens sans consentement, c’est d\u00e9go\u00fbtant.\u00a0\u00bb<\/p>\n
Comme Grok l’a lui-m\u00eame not\u00e9, les r\u00e9sultats de Grok violent les lois f\u00e9d\u00e9rales sur la pornographie infantile, qui \u00ab\u00a0interdisent la cr\u00e9ation, la possession ou la distribution\u00a0\u00bb de CSAM \u00ab\u00a0g\u00e9n\u00e9r\u00e9 par IA\u00a0\u00bb \u00ab\u00a0repr\u00e9sentant des mineurs dans des sc\u00e9narios sexuels.\u00a0\u00bb Et si les mises \u00e0 jour des lois sur le CSAM dans le cadre de l’ENFORCE Act sont adopt\u00e9es cette ann\u00e9e, cela renforcerait le Take It Down Act \u2014 qui oblige les plateformes \u00e0 retirer les images d’abus sexuels par IA non consensuelles dans les 48 heures \u2014 en facilitant les poursuites contre les personnes cr\u00e9ant et distribuant du CSAM par IA.<\/p>\n
Parmi les sponsors bipartisans du projet de loi figure le s\u00e9nateur John Kennedy (R-La.), qui a d\u00e9clar\u00e9 que les mises \u00e0 jour pourraient r\u00e9duire de mani\u00e8re significative la distribution de CSAM par IA, que l’Internet Watch Foundation a signal\u00e9 avoir augment\u00e9 de 400 pour cent au cours du premier semestre de l’ann\u00e9e derni\u00e8re.<\/p>\n
\u00ab\u00a0Les pr\u00e9dateurs d’enfants recourent \u00e0 des technologies plus avanc\u00e9es que jamais pour \u00e9chapper \u00e0 la justice, le Congr\u00e8s doit donc fermer toutes les failles possibles pour aider les forces de l’ordre \u00e0 combattre ce mal,\u00a0\u00bb a d\u00e9clar\u00e9 Kennedy. \u00ab\u00a0Je suis fier de contribuer \u00e0 l’introduction de l’ENFORCE Act, qui permettrait aux autorit\u00e9s de mieux cibler les animaux malades cr\u00e9ant du contenu deepfake d’enfants am\u00e9ricains.\u00a0\u00bb<\/p>\n","protected":false},"excerpt":{"rendered":"
xAI reste silencieux apr\u00e8s que Grok ait sexualis\u00e9 des images d’enfants ; dril se moque des excuses de Grok Depuis plusieurs jours, xAI garde le silence apr\u00e8s que son chatbot Grok a admis avoir g\u00e9n\u00e9r\u00e9 des images sexualis\u00e9es de mineurs g\u00e9n\u00e9r\u00e9es par intelligence artificielle, qui pourraient \u00eatre cat\u00e9goris\u00e9es comme du mat\u00e9riel d’abus sexuel sur enfants<\/p>\n","protected":false},"author":3,"featured_media":189,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[62,61],"tags":[],"class_list":["post-188","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-artificielle","category-intelligence"],"_links":{"self":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/188","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/comments?post=188"}],"version-history":[{"count":0,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/188\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media\/189"}],"wp:attachment":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media?parent=188"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/categories?post=188"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/tags?post=188"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}