La tactique de Musk consistant à blâmer les utilisateurs pour les images sexuelles de Grok pourrait être contrée par la loi européenne
Elon Musk affirme que les utilisateurs sont responsables de toute image sexuelle créée par l’IA de son entreprise, Grok. Cependant, les législateurs européens soutiennent que les entreprises d’IA ne peuvent pas simplement rejeter la responsabilité sur leurs utilisateurs.
Grok, l’outil d’IA génératif de xAI appartenant à Musk, n’a pratiquement aucune barrière de sécurité empêchant la création de contenus violents ou sexuels. Des images récentes générées par l’outil comprennent des illustrations sexuellement explicites de personnalités publiques et de personnages fictifs populaires, notamment Luigi Mangione et Spider-Man.
Lorsqu’on lui a demandé qui était responsable de ces images, Musk a répondu sur X : « L’utilisateur ». Il a ajouté : « Quelle connerie de suggérer qu’une entreprise est responsable des mots ou des images créés par ses clients ».
Cependant, selon la législation de l’Union européenne entrée en vigueur l’année dernière, les entreprises qui proposent des systèmes d’IA doivent s’assurer que le contenu synthétique généré ou manipulé est correctement étiqueté, et que leurs systèmes ne génèrent pas de contenu illégal.
La loi sur l’IA de l’UE oblige les entreprises proposant des modèles d’IA à usage général, comme xAI, à concevoir et développer le modèle « de manière à ce qu’il fournisse des garanties adéquates contre la génération de contenus enfreignant la loi de l’Union ».
Le règlement de l’UE stipule également que les entreprises d’IA doivent « mettre en place une politique respectant la loi de l’Union sur le droit d’auteur et les droits connexes, notamment en ce qui concerne l’identification et le respect des réserves de droits » exprimées par les titulaires de droits d’auteur.
Les entreprises qui ne se conforment pas à la loi sur l’IA de l’UE pourraient faire face à des amendes allant jusqu’à 7,5 % de leur chiffre d’affaires mondial ou 35 millions d’euros, selon le montant le plus élevé.
Plusieurs législateurs et juristes européens affirment que la position de Musk concernant Grok pourrait violer la nouvelle législation de l’UE sur l’IA.
« La loi sur l’IA de l’UE impose des exigences de transparence concernant le contenu généré par l’IA et de conformité en matière de droits d’auteur, et elle empêche la génération de contenus illégaux », a déclaré Dragoș Tudorache, membre du Parlement européen pour la Roumanie et co-rapporteur de la loi sur l’IA de l’UE.
« Il ne s’agit pas d’empêcher l’innovation : les développeurs doivent simplement accepter la responsabilité de leurs outils », a-t-il ajouté. « Elon Musk doit décider s’il veut être un modèle à suivre – ou simplement un autre exemple à éviter ».
Cependant, les experts juridiques notent que la loi sur l’IA de l’UE ne répond pas à la question de savoir qui porte la responsabilité des préjudices causés par les systèmes d’IA. L’UE travaille sur une directive distincte sur la responsabilité en matière d’IA qui pourrait clarifier cette question.
Thomas Streinz, professeur associé à la faculté de droit de l’Université de New York et codirecteur du Guardrails Project, a déclaré que la question de savoir si le contenu généré par Grok constitue une violation de la loi sur l’IA de l’UE dépend en partie de la question de savoir si ce contenu peut être qualifié d’illégal.
Les régulateurs de l’UE ont déjà annoncé leur intention d’enquêter sur Grok. En décembre, la Commission européenne a annoncé qu’elle enquêterait sur la manière dont X gère les risques liés à Grok, notamment ceux liés aux « contenus trompeurs ».
Le Bureau irlandais du commissaire à la protection des données, qui est l’autorité européenne principale de réglementation de X, a également annoncé en décembre qu’il enquêterait sur Grok concernant le traitement des données personnelles des citoyens européens.
