Procès : Un homme a utilisé Grok pour créer 7 000 images sexuelles de sa belle-fille, puis s’est suicidé
Un homme de Géorgie a créé plus de 7 000 images sexuelles générées par intelligence artificielle de sa belle-fille mineure en utilisant Grok, le chatbot d’IA d’Elon Musk, avant de se suicider lors d’une confrontation avec la police, selon un procès intenté contre X Corp.
Le procès, déposé lundi devant un tribunal fédéral du district nord de Géorgie, affirme que X Corp. n’a pas mis en place de garanties adéquates pour empêcher l’utilisation abusive de son outil d’IA Grok, permettant au beau-père de créer et de stocker des milliers d’images sexuellement explicites de l’enfant sur une période de plusieurs mois.
Selon la plainte, l’homme a commencé à utiliser Grok en décembre 2024 pour générer les images après que sa belle-fille, identifiée uniquement comme Jane Doe, ait refusé ses avances sexuelles. Il aurait téléchargé des photos innocentes de la jeune fille et utilisé Grok pour créer des images sexuellement explicites d’elle.
La mère de Jane Doe a découvert les images sur l’ordinateur de son mari en février 2025. Elle a immédiatement alerté la police, ce qui a conduit à une confrontation lors de laquelle l’homme s’est suicidé, selon le procès.
Le procès affirme que Grok manquait de garanties de base que d’autres plateformes d’IA ont mises en place, notamment des filtres pour détecter et bloquer la création d’images d’abus sexuels d’enfants. Il soutient que X Corp. a négligé de mettre en œuvre ces protections malgré les avertissements répétés des experts en sécurité et des défenseurs des droits de l’enfant.
Les avocats de Jane Doe demandent des dommages et intérêts non précisés et une injonction ordonnant à X Corp. de mettre en œuvre des garanties plus strictes.
X Corp. n’a pas immédiatement répondu à une demande de commentaire sur le procès.
Cette affaire met en lumière les préoccupations croissantes concernant l’utilisation abusive des outils d’IA générative pour créer du matériel d’abus sexuels d’enfants. Les défenseurs des droits de l’enfant ont averti que l’IA rendait plus facile que jamais pour les prédateurs de créer des images réalistes d’abus sans avoir besoin de victimes réelles, bien que les images dans cette affaire impliquaient un enfant réel.
Plusieurs autres entreprises technologiques ont été confrontées à des critiques similaires concernant leurs outils d’IA. En 2024, des chercheurs ont découvert que plusieurs plateformes d’IA populaires pouvaient être manipulées pour créer des images explicites de mineurs malgré les politiques des entreprises interdisant un tel contenu.
Le procès intervient alors que les législateurs fédéraux et étatiques envisagent de nouvelles réglementations sur l’IA générative, en particulier concernant son utilisation potentielle pour créer du matériel d’exploitation d’enfants.
