L’UE ouvre une enquête sur xAI concernant des images à caractère sexuel
Le chien de garde européen de la protection de la vie privée a ouvert une enquête à grande échelle sur X d’Elon Musk concernant des images sexuelles non consensuelles générées par l’IA, dernier signe en date de l’examen par les régulateurs du chatbot Grok du réseau social.
La Commission irlandaise de protection des données, responsable de l’application du Règlement général sur la protection des données de l’UE, a annoncé lundi soir l’ouverture d’une enquête sur la création et la publication d’images sexualisées potentiellement nuisibles par Grok contenant ou impliquant le traitement de données d’utilisateurs de l’UE.
Le chatbot Grok est intégré aux fils d’actualité des médias sociaux de X et développé par la start-up d’IA d’Elon Musk xAI, qui a acquis X l’année dernière. Plus tôt ce mois-ci, xAI a fusionné avec le fabricant de fusées SpaceX de Musk pour créer un géant de 1 500 milliards de dollars.
L’enquête marque la dernière d’une série d’investigations des autorités mondiales visant X après que des milliers de deepfakes sexualisés de femmes ont été générés à l’aide de Grok début janvier, provoquant une vaste réaction négative de la part des utilisateurs, des experts en sécurité et des politiciens.
La DPC est en contact avec X depuis l’apparition des premiers articles dans les médias il y a quelques semaines concernant la capacité présumée des utilisateurs de X d’inciter le compte Grok sur X à générer des images sexualisées de personnes réelles, y compris d’enfants, a déclaré Graham Doyle, commissaire adjoint de la DPC, dans un communiqué lundi.
Il a ajouté que la commission a lancé une enquête à grande échelle qui examinera la conformité de X avec certaines de leurs obligations fondamentales en vertu du RGPD concernant les questions en cause.
X n’a pas immédiatement répondu à une demande de commentaire.
Musk a adopté une approche non interventionniste dans la modération du chatbot Grok, invoquant la liberté d’expression. L’été dernier, xAI a apporté des modifications au chatbot après qu’il ait loué Hitler et publié des messages antisémites sur X.
Ses bureaux X à Paris ont été perquisitionnés par des enquêteurs français et européens début février dans le cadre d’une enquête approfondie sur les algorithmes de X ainsi que sur la diffusion de matériel d’abus sexuel sur enfants généré par l’IA. Les procureurs français ont convoqué Musk et Linda Yaccarino, ancienne directrice générale de X, pour des entretiens volontaires à Paris en avril.
Le Bureau du Commissaire à l’information du Royaume-Uni a également annoncé la semaine dernière le lancement d’une nouvelle enquête sur X et xAI, affirmant avoir de sérieuses préoccupations concernant l’utilisation par Grok de données personnelles et son potentiel à produire du contenu d’images et de vidéos sexualisées nuisibles.
L’UE a déjà ouvert une enquête formelle sur xAI pour la diffusion par Grok d’images sexualisées de femmes et d’enfants en vertu de la loi sur les services numériques du bloc, qui exige des grandes plateformes technologiques qu’elles atténuent la diffusion de contenu illégal et nuisible.
L’enquête européenne annoncée lundi évaluera toutefois si X a enfreint les règles phares du RGPD de l’UE, qui imposent aux entreprises de s’assurer que les données personnelles des utilisateurs sont traitées uniquement à des fins légales spécifiques, de prendre en compte la vie privée lors du développement de produits et d’établir des examens des risques avant le lancement de fonctionnalités à haut risque, par exemple.
Suite aux pressions des gouvernements du monde entier, notamment les menaces d’amendes et d’interdictions dans l’UE, au Royaume-Uni et en France, X a mis en place le mois dernier des mesures technologiques pour empêcher Grok de générer certaines images explicites. Cependant, l’entreprise a insisté sur le fait qu’elle supprime le matériel d’abus sexuel sur enfants et le matériel de nudité non consensuel.
En réponse aux perquisitions françaises, X a déclaré dans un message que les allégations étaient sans fondement et qu’elle nie catégoriquement tout acte répréhensible. Elle a qualifié la perquisition d’acte abusif de théâtre policier conçu pour atteindre des objectifs politiques illégitimes, ajoutant que l’enquête déforme le droit français, contourne la procédure régulière et met en danger la liberté d’expression.
Cette dernière enquête intervient pendant une période turbulente pour X, avec des dizaines d’employés quittant l’entreprise la semaine dernière, dont deux cofondateurs. Musk a déclaré lors d’une réunion générale mercredi qu’il restructurait le groupe après la fusion avec SpaceX.
