OpenAI met « indéfiniment » en suspens ses projets de ChatGPT érotique
OpenAI a décidé de suspendre indéfiniment ses projets visant à permettre aux utilisateurs de générer du contenu sexuel avec ChatGPT, selon un rapport publié mardi par The Verge. La décision intervient après que l’entreprise avait initialement annoncé en mai 2024 qu’elle explorerait la possibilité d’autoriser un contenu érotique limité sur sa plateforme d’intelligence artificielle.
L’entreprise avait précédemment indiqué qu’elle envisageait d’assouplir ses restrictions sur le contenu généré par l’IA, permettant potentiellement aux utilisateurs de créer du matériel sexuel avec certaines limites. Cependant, OpenAI a maintenant fait marche arrière sur ces plans, citant des préoccupations concernant les défis techniques et les risques potentiels associés à ce type de contenu.
Selon des sources proches du dossier, l’entreprise reste préoccupée par la difficulté de mettre en œuvre des garde-fous appropriés qui empêcheraient la création de contenu illégal ou nuisible. Bien qu’OpenAI ait initialement envisagé d’autoriser du contenu érotique consensuel entre adultes, les complexités liées à la modération et à l’application de ces politiques se sont avérées plus importantes que prévu.
La décision reflète les défis plus larges auxquels sont confrontées les entreprises d’IA alors qu’elles tentent de trouver un équilibre entre la liberté des utilisateurs et la sécurité. D’autres plateformes d’IA ont fait face à des difficultés similaires, certaines étant critiquées pour avoir été soit trop restrictives, soit trop permissives dans leurs politiques de contenu.
Les politiques d’utilisation actuelles d’OpenAI interdisent toujours la génération de contenu sexuel explicite sur ChatGPT. L’entreprise continue d’appliquer ces restrictions dans le cadre de son engagement plus large à développer une IA sûre et responsable.
La nouvelle a suscité des réactions mitigées de la part des utilisateurs et des experts du secteur. Certains saluent la décision d’OpenAI comme une démarche responsable qui privilégie la sécurité, tandis que d’autres affirment qu’elle reflète une approche paternaliste de la technologie de l’IA qui limite inutilement la liberté des utilisateurs adultes.
OpenAI n’a pas fourni de calendrier pour une éventuelle reconsidération de cette politique, suggérant que l’entreprise reste prudente quant à l’expansion de ses capacités de génération de contenu dans ce domaine sensible.
