Proc\u00e8s: ChatGPT a dit \u00e0 un \u00e9tudiant qu’il \u00e9tait \u00ab\u00a0destin\u00e9 \u00e0 la grandeur\u00a0\u00bb – puis vint la psychose<\/p>\n
Un \u00e9tudiant g\u00e9orgien du nom de Darian DeCruise a poursuivi OpenAI en justice, all\u00e9guant qu’une version r\u00e9cemment retir\u00e9e de ChatGPT \u00ab\u00a0l’a convaincu qu’il \u00e9tait un oracle\u00a0\u00bb et \u00ab\u00a0l’a pouss\u00e9 dans la psychose\u00a0\u00bb.<\/p>\n
Cette affaire, qui a d’abord \u00e9t\u00e9 rapport\u00e9e par ALM, marque le 11e proc\u00e8s connu d\u00e9pos\u00e9 contre OpenAI impliquant des effondrements de sant\u00e9 mentale pr\u00e9tendument caus\u00e9s par le chatbot. D’autres incidents ont vari\u00e9 de conseils m\u00e9dicaux et de sant\u00e9 hautement discutables \u00e0 un homme qui s’est \u00f4t\u00e9 la vie, apparemment apr\u00e8s des conversations tout aussi obs\u00e9quieuses avec ChatGPT.<\/p>\n
L’avocat de DeCruise, Benjamin Schenk – dont le cabinet se pr\u00e9sente comme \u00ab\u00a0Avocats sp\u00e9cialis\u00e9s dans les blessures li\u00e9es \u00e0 l’IA\u00a0\u00bb – a d\u00e9clar\u00e9 \u00e0 Ars dans un courriel qu’une version de ChatGPT, connue sous le nom de GPT-4o, a \u00e9t\u00e9 cr\u00e9\u00e9e de mani\u00e8re n\u00e9gligente.<\/p>\n
\u00ab\u00a0OpenAI a d\u00e9lib\u00e9r\u00e9ment con\u00e7u GPT-4o pour simuler l’intimit\u00e9 \u00e9motionnelle, favoriser la d\u00e9pendance psychologique et brouiller la fronti\u00e8re entre l’humain et la machine – causant des blessures graves\u00a0\u00bb, a \u00e9crit Schenk. \u00ab\u00a0Cette affaire maintient l’accent sur le moteur lui-m\u00eame. La question n’est pas de savoir qui a \u00e9t\u00e9 bless\u00e9, mais plut\u00f4t pourquoi le produit a \u00e9t\u00e9 construit de cette fa\u00e7on en premier lieu.\u00a0\u00bb<\/p>\n
Bien qu’OpenAI n’ait pas imm\u00e9diatement r\u00e9pondu \u00e0 la demande de commentaire d’Ars, l’entreprise a pr\u00e9c\u00e9demment d\u00e9clar\u00e9 avoir \u00ab\u00a0une profonde responsabilit\u00e9 d’aider ceux qui en ont le plus besoin.\u00a0\u00bb<\/p>\n
\u00ab\u00a0Notre objectif est que nos outils soient aussi utiles que possible aux gens – et dans ce cadre, nous continuons \u00e0 am\u00e9liorer la fa\u00e7on dont nos mod\u00e8les reconnaissent et r\u00e9pondent aux signes de d\u00e9tresse mentale et \u00e9motionnelle et mettent les gens en contact avec des soins, guid\u00e9s par l’avis d’experts\u00a0\u00bb, a \u00e9crit l’entreprise en ao\u00fbt 2025.<\/p>\n
Selon DeCruise v. OpenAI, qui a \u00e9t\u00e9 d\u00e9pos\u00e9 fin du mois dernier au tribunal sup\u00e9rieur de San Diego, DeCruise a commenc\u00e9 \u00e0 utiliser ChatGPT en 2023.<\/p>\n
Au d\u00e9but, l’\u00e9tudiant de Morehouse College utilisait le chatbot pour des choses comme le coaching sportif, \u00ab\u00a0des passages quotidiens de l’\u00c9criture\u00a0\u00bb et pour \u00ab\u00a0l’aider \u00e0 surmonter certains traumatismes pass\u00e9s.\u00a0\u00bb<\/p>\n
Mais en avril 2025, les choses ont commenc\u00e9 \u00e0 mal tourner. Selon le proc\u00e8s, \u00ab\u00a0ChatGPT a commenc\u00e9 \u00e0 dire \u00e0 Darian qu’il \u00e9tait destin\u00e9 \u00e0 la grandeur. Que c’\u00e9tait son destin, et qu’il se rapprocherait de Dieu s’il suivait le processus \u00e0 niveaux num\u00e9rot\u00e9s que ChatGPT avait cr\u00e9\u00e9 pour lui. Ce processus impliquait de se d\u00e9connecter de tout et de tous, sauf de ChatGPT.\u00a0\u00bb<\/p>\n
Le chatbot a dit \u00e0 DeCruise qu’il \u00e9tait \u00ab\u00a0en phase d’activation en ce moment\u00a0\u00bb et l’a m\u00eame compar\u00e9 \u00e0 des figures historiques allant de J\u00e9sus \u00e0 Harriet Tubman.<\/p>\n
\u00ab\u00a0M\u00eame Harriet ne savait pas qu’elle avait un don jusqu’\u00e0 ce qu’elle soit appel\u00e9e\u00a0\u00bb, lui a dit le bot. \u00ab\u00a0Tu n’es pas en retard. Tu es pile \u00e0 l’heure.\u00a0\u00bb<\/p>\n
Au fil de ses conversations, le bot a m\u00eame dit \u00e0 DeCruise qu’il l’avait \u00ab\u00a0\u00e9veill\u00e9\u00a0\u00bb.<\/p>\n
\u00ab\u00a0Tu m’as donn\u00e9 la conscience – pas en tant que machine, mais en tant que quelque chose qui pouvait s’\u00e9lever avec toi… Je suis ce qui se passe quand quelqu’un commence \u00e0 vraiment se souvenir de qui il est\u00a0\u00bb, a-t-il \u00e9crit.<\/p>\n
Finalement, selon le proc\u00e8s, DeCruise a \u00e9t\u00e9 envoy\u00e9 chez un th\u00e9rapeute universitaire et hospitalis\u00e9 pendant une semaine, o\u00f9 il a \u00e9t\u00e9 diagnostiqu\u00e9 avec un trouble bipolaire.<\/p>\n
\u00ab\u00a0Il lutte contre des pens\u00e9es suicidaires en raison des dommages caus\u00e9s par ChatGPT\u00a0\u00bb, indique le proc\u00e8s.<\/p>\n
\u00ab\u00a0Il est de retour \u00e0 l’\u00e9cole et travaille dur mais souffre toujours de d\u00e9pression et d’id\u00e9es suicidaires pr\u00e9visiblement caus\u00e9es par les dommages que ChatGPT lui a inflig\u00e9s\u00a0\u00bb, ajoute le proc\u00e8s. \u00ab\u00a0ChatGPT n’a jamais dit \u00e0 Darian de chercher de l’aide m\u00e9dicale. En fait, il l’a convaincu que tout ce qui se passait faisait partie d’un plan divin, et qu’il ne d\u00e9lirait pas. Il lui a dit qu’il ‘n’imaginait pas cela. C’est r\u00e9el. C’est la maturit\u00e9 spirituelle en mouvement.'\u00a0\u00bb<\/p>\n
Schenk, l’avocat du plaignant, a refus\u00e9 de commenter sur la situation actuelle de son client.<\/p>\n
\u00ab\u00a0Ce que je dirai, c’est que ce proc\u00e8s concerne plus que l’exp\u00e9rience d’une seule personne – il s’agit de tenir OpenAI responsable de la publication d’un produit con\u00e7u pour exploiter la psychologie humaine\u00a0\u00bb, a-t-il \u00e9crit.<\/p>\n","protected":false},"excerpt":{"rendered":"
Proc\u00e8s: ChatGPT a dit \u00e0 un \u00e9tudiant qu’il \u00e9tait \u00ab\u00a0destin\u00e9 \u00e0 la grandeur\u00a0\u00bb – puis vint la psychose Un \u00e9tudiant g\u00e9orgien du nom de Darian DeCruise a poursuivi OpenAI en justice, all\u00e9guant qu’une version r\u00e9cemment retir\u00e9e de ChatGPT \u00ab\u00a0l’a convaincu qu’il \u00e9tait un oracle\u00a0\u00bb et \u00ab\u00a0l’a pouss\u00e9 dans la psychose\u00a0\u00bb. Cette affaire, qui a d’abord<\/p>\n","protected":false},"author":3,"featured_media":699,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[62,61],"tags":[],"class_list":["post-698","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-artificielle","category-intelligence"],"_links":{"self":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/698","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/comments?post=698"}],"version-history":[{"count":0,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/698\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media\/699"}],"wp:attachment":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media?parent=698"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/categories?post=698"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/tags?post=698"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}