La Floride enquête sur le rôle de ChatGPT dans une fusillade de masse. OpenAI affirme que le robot n’est pas responsable.
Des enquêteurs en Floride examinent si ChatGPT d’OpenAI a joué un rôle dans une fusillade de masse survenue plus tôt ce mois-ci dans un quartier de Jacksonville qui a fait quatre morts, dont le tireur.
Les autorités ont confirmé vendredi que le tireur, identifié comme Ryan Palmeter, 21 ans, avait consulté le chatbot alimenté par l’intelligence artificielle avant l’attaque du 26 août. Les enquêteurs tentent de déterminer si l’intelligence artificielle a fourni des conseils ou des informations qui auraient pu contribuer à la planification ou à l’exécution de la fusillade.
OpenAI a publié une déclaration en réponse aux informations, affirmant que bien que son système ait été consulté, le chatbot n’est pas responsable des actions du tireur.
Nous sommes dévastés d’apprendre cette tragédie et nos pensées accompagnent les victimes, leurs familles et la communauté de Jacksonville, a déclaré la société dans un communiqué. Nos systèmes sont conçus pour refuser les demandes qui violent nos politiques d’utilisation, y compris celles liées à la violence ou aux activités illégales.
La société a ajouté que ses modèles d’IA sont programmés pour refuser de générer du contenu nuisible et qu’elle coopère pleinement avec les forces de l’ordre dans leur enquête.
Les détails de ce que le tireur aurait demandé au chatbot n’ont pas encore été rendus publics. Le shérif du comté de Duval, T.K. Waters, a déclaré lors d’une conférence de presse que les enquêteurs examinaient l’historique numérique du tireur, y compris ses interactions avec ChatGPT, dans le cadre d’un examen plus large de la façon dont il s’est préparé à l’attaque.
Nous examinons tout, y compris l’utilisation potentielle de l’intelligence artificielle, pour comprendre comment cela s’est produit et si cela aurait pu être empêché, a déclaré Waters.
L’incident a ravivé les préoccupations concernant le rôle que les outils d’intelligence artificielle pourraient jouer dans des actes de violence. Des législateurs et des défenseurs de la sécurité publique ont appelé à une réglementation plus stricte de l’IA, en particulier en ce qui concerne son utilisation potentielle pour planifier ou faciliter des crimes violents.
Les chatbots IA comme ChatGPT ont fait l’objet d’un examen minutieux pour leur capacité à générer des informations détaillées sur un large éventail de sujets, y compris certains qui pourraient être utilisés à des fins nuisibles. Bien que les entreprises comme OpenAI aient mis en place des garde-fous pour empêcher les utilisateurs d’obtenir des conseils dangereux ou illégaux, les critiques soutiennent que ces mesures ne sont pas infaillibles.
Certains experts en sécurité ont mis en garde contre le fait que même des questions apparemment inoffensives posées à l’IA pourraient potentiellement être combinées avec d’autres informations pour planifier des actes violents.
La fusillade de Jacksonville a eu lieu dans un magasin Dollar General, où le tireur a ouvert le feu sur des clients et des employés avant de se suicider. Les victimes comprenaient trois civils qui faisaient leurs courses au moment de l’attaque. Les autorités ont déclaré que l’attaque était motivée par la haine raciale, le tireur laissant derrière lui des manifestes exprimant des opinions extrémistes.
L’enquête se poursuit et les autorités n’ont pas encore déterminé si ChatGPT ou tout autre outil d’intelligence artificielle a directement contribué à la planification de l’attaque. Cependant, l’incident a soulevé des questions importantes sur la responsabilité et la surveillance des technologies d’intelligence artificielle alors qu’elles deviennent de plus en plus omniprésentes dans la vie quotidienne.
