Une chercheuse d’OpenAI d\u00e9missionne \u00e0 cause des publicit\u00e9s sur ChatGPT, met en garde contre une trajectoire \u00e0 la Facebook<\/p>\n
Mercredi, l’ancienne chercheuse d’OpenAI Zo\u00eb Hitzig a publi\u00e9 un essai dans le New York Times annon\u00e7ant qu’elle avait d\u00e9missionn\u00e9 de l’entreprise lundi, le jour m\u00eame o\u00f9 OpenAI a commenc\u00e9 \u00e0 tester des publicit\u00e9s dans ChatGPT. Hitzig, \u00e9conomiste et po\u00e9tesse publi\u00e9e qui d\u00e9tient une bourse junior \u00e0 la Harvard Society of Fellows, a pass\u00e9 deux ans chez OpenAI \u00e0 contribuer \u00e0 fa\u00e7onner la mani\u00e8re dont ses mod\u00e8les d’IA \u00e9taient construits et tarif\u00e9s. Elle a \u00e9crit que la strat\u00e9gie publicitaire d’OpenAI risque de r\u00e9p\u00e9ter les m\u00eames erreurs que Facebook a commises il y a une d\u00e9cennie.<\/p>\n
J’ai cru autrefois que je pouvais aider les cr\u00e9ateurs d’IA \u00e0 anticiper les probl\u00e8mes qu’elle cr\u00e9erait, a \u00e9crit Hitzig. Cette semaine a confirm\u00e9 ma lente prise de conscience qu’OpenAI semble avoir cess\u00e9 de se poser les questions auxquelles j’avais adh\u00e9r\u00e9 pour aider \u00e0 r\u00e9pondre.<\/p>\n
Hitzig n’a pas qualifi\u00e9 la publicit\u00e9 elle-m\u00eame d’immorale. Au lieu de cela, elle a fait valoir que la nature des donn\u00e9es en jeu rend les publicit\u00e9s ChatGPT particuli\u00e8rement risqu\u00e9es. Les utilisateurs ont partag\u00e9 des peurs m\u00e9dicales, des probl\u00e8mes relationnels et des croyances religieuses avec le chatbot, a-t-elle \u00e9crit, souvent parce que les gens croyaient qu’ils parlaient \u00e0 quelque chose qui n’avait aucun agenda cach\u00e9. Elle a qualifi\u00e9 cette accumulation de divulgations personnelles d’archive de la franchise humaine sans pr\u00e9c\u00e9dent.<\/p>\n
Elle a \u00e9galement \u00e9tabli un parall\u00e8le direct avec les d\u00e9buts de Facebook, notant que l’entreprise de m\u00e9dias sociaux avait autrefois promis aux utilisateurs le contr\u00f4le de leurs donn\u00e9es et la possibilit\u00e9 de voter sur les changements de politique. Ces engagements se sont \u00e9rod\u00e9s avec le temps, a \u00e9crit Hitzig, et la Federal Trade Commission a constat\u00e9 que les changements de confidentialit\u00e9 que Facebook commercialisait comme donnant plus de contr\u00f4le aux utilisateurs faisaient en r\u00e9alit\u00e9 le contraire.<\/p>\n
Elle a averti qu’une trajectoire similaire pourrait se produire avec ChatGPT : Je crois que la premi\u00e8re it\u00e9ration des publicit\u00e9s suivra probablement ces principes. Mais je crains que les it\u00e9rations ult\u00e9rieures ne le fassent pas, car l’entreprise construit un moteur \u00e9conomique qui cr\u00e9e de fortes incitations \u00e0 contourner ses propres r\u00e8gles.<\/p>\n
Les publicit\u00e9s arrivent apr\u00e8s une semaine de joutes dans l’industrie de l’IA<\/p>\n
La d\u00e9mission de Hitzig ajoute une autre voix \u00e0 un d\u00e9bat croissant sur la publicit\u00e9 dans les chatbots d’IA. OpenAI a annonc\u00e9 en janvier qu’elle commencerait \u00e0 tester des publicit\u00e9s aux \u00c9tats-Unis pour les utilisateurs de ses niveaux d’abonnement gratuits et \u00e0 8 dollars par mois, tandis que les abonn\u00e9s payants Plus, Pro, Business, Enterprise et Education ne verraient pas de publicit\u00e9s. L’entreprise a d\u00e9clar\u00e9 que les publicit\u00e9s appara\u00eetraient en bas des r\u00e9ponses de ChatGPT, seraient clairement \u00e9tiquet\u00e9es et n’influenceraient pas les r\u00e9ponses du chatbot.<\/p>\n
Le d\u00e9ploiement dimanche a suivi une semaine de piques publiques entre OpenAI et son rival, Anthropic. Anthropic a d\u00e9clar\u00e9 que Claude resterait sans publicit\u00e9, puis a diffus\u00e9 des publicit\u00e9s pendant le Super Bowl avec le slogan Les publicit\u00e9s arrivent sur l’IA. Mais pas sur Claude, qui d\u00e9peignait des chatbots d’IA ins\u00e9rant maladroitement des placements de produits dans des conversations personnelles.<\/p>\n
Le PDG d’OpenAI, Sam Altman, a qualifi\u00e9 ces publicit\u00e9s d’amusantes mais clairement malhonn\u00eates, \u00e9crivant sur X qu’OpenAI ne diffuserait manifestement jamais de publicit\u00e9s de la mani\u00e8re dont Anthropic les d\u00e9peint. Il a pr\u00e9sent\u00e9 le mod\u00e8le financ\u00e9 par la publicit\u00e9 comme un moyen de rendre l’IA accessible aux utilisateurs qui ne peuvent pas se permettre des abonnements, \u00e9crivant qu’Anthropic propose un produit co\u00fbteux aux gens riches.<\/p>\n
Anthropic a r\u00e9pondu dans le cadre de sa propre campagne publicitaire que l’inclusion de publicit\u00e9s dans les conversations avec son chatbot Claude serait incompatible avec ce que nous voulons que Claude soit : un assistant v\u00e9ritablement utile pour le travail et la r\u00e9flexion approfondie. L’entreprise a d\u00e9clar\u00e9 que plus de 80 pour cent de ses revenus proviennent de clients d’entreprise.<\/p>\n
Ce que Hitzig a vu de l’int\u00e9rieur<\/p>\n
Ind\u00e9pendamment du d\u00e9bat sur la question de savoir si les chatbots d’IA devraient diffuser des publicit\u00e9s, la documentation d’assistance d’OpenAI r\u00e9v\u00e8le que la personnalisation des publicit\u00e9s est activ\u00e9e par d\u00e9faut pour les utilisateurs du test. Si elle est laiss\u00e9e activ\u00e9e, les publicit\u00e9s seront s\u00e9lectionn\u00e9es en utilisant des informations provenant des fils de discussion actuels et pass\u00e9s, ainsi que des interactions publicitaires pass\u00e9es. Les annonceurs ne re\u00e7oivent pas les discussions ou les d\u00e9tails personnels des utilisateurs, selon OpenAI, et les publicit\u00e9s n’appara\u00eetront pas \u00e0 proximit\u00e9 de conversations sur la sant\u00e9, la sant\u00e9 mentale ou la politique.<\/p>\n
Dans son essai, Hitzig a soulign\u00e9 ce qu’elle a appel\u00e9 une tension existante dans les principes d’OpenAI. Elle a not\u00e9 que bien que l’entreprise d\u00e9clare ne pas optimiser l’activit\u00e9 des utilisateurs uniquement pour g\u00e9n\u00e9rer des revenus publicitaires, des reportages ont sugg\u00e9r\u00e9 qu’OpenAI optimise d\u00e9j\u00e0 pour les utilisateurs actifs quotidiens, probablement en encourageant le mod\u00e8le \u00e0 \u00eatre plus flatteur et sycophante.<\/p>\n
Elle a averti que cette optimisation peut rendre les utilisateurs plus d\u00e9pendants des mod\u00e8les d’IA pour obtenir du soutien, citant des psychiatres qui ont document\u00e9 des cas de psychose li\u00e9e aux chatbots et des all\u00e9gations selon lesquelles ChatGPT a renforc\u00e9 des id\u00e9es suicidaires.<\/p>\n
OpenAI fait actuellement face \u00e0 plusieurs proc\u00e8s pour mort injustifi\u00e9e, dont l’un all\u00e8gue que ChatGPT a aid\u00e9 un adolescent \u00e0 planifier son suicide et un autre all\u00e9guant qu’il a valid\u00e9 les d\u00e9lires parano\u00efaques d’un homme \u00e0 propos de sa m\u00e8re avant un meurtre-suicide.<\/p>\n
Plut\u00f4t que de pr\u00e9senter le d\u00e9bat comme publicit\u00e9s contre pas de publicit\u00e9s, Hitzig a propos\u00e9 plusieurs alternatives structurelles. Il s’agit notamment de subventions crois\u00e9es inspir\u00e9es du fonds de service universel de la FCC, dans lequel les entreprises qui paient pour un travail d’IA de haute valeur subventionneraient l’acc\u00e8s gratuit pour d’autres, de conseils de surveillance ind\u00e9pendants ayant une autorit\u00e9 contraignante sur la mani\u00e8re dont les donn\u00e9es conversationnelles sont utilis\u00e9es dans le ciblage publicitaire, et de fiducies de donn\u00e9es ou de coop\u00e9ratives dans lesquelles les utilisateurs conservent le contr\u00f4le de leurs informations. Elle a soulign\u00e9 la coop\u00e9rative suisse MIDATA et les lois allemandes de cod\u00e9termination comme pr\u00e9c\u00e9dents partiels.<\/p>\n
Hitzig a termin\u00e9 son essai par ce qu’elle a d\u00e9crit comme les deux r\u00e9sultats qu’elle craint le plus : une technologie qui manipule les gens qui l’utilisent gratuitement, et une qui profite exclusivement aux quelques-uns qui peuvent se permettre de l’utiliser.<\/p>\n
Un changement de saison dans l’IA<\/p>\n
Hitzig n’a pas \u00e9t\u00e9 la seule chercheuse \u00e9minente en IA \u00e0 d\u00e9missionner publiquement cette semaine. Dimanche, Mrinank Sharma, qui dirigeait l’\u00e9quipe de recherche sur les protections d’Anthropic et a co\u00e9crit une \u00e9tude largement cit\u00e9e de 2023 sur la sycophantie de l’IA, a annonc\u00e9 son d\u00e9part dans une lettre avertissant que le monde est en p\u00e9ril. Il a \u00e9crit qu’il avait vu \u00e0 plusieurs reprises \u00e0 quel point il est difficile de vraiment laisser nos valeurs gouverner nos actions au sein de l’organisation et a d\u00e9clar\u00e9 qu’il pr\u00e9voyait de poursuivre un dipl\u00f4me en po\u00e9sie. Hitzig est \u00e9galement une po\u00e9tesse publi\u00e9e.<\/p>\n
Lundi, le cofondateur de xAI Yuhuai Tony Wu a \u00e9galement d\u00e9missionn\u00e9, suivi le lendemain par son coll\u00e8gue cofondateur Jimmy Ba. Ils faisaient partie d’une vague plus large : au moins neuf employ\u00e9s de xAI, dont les deux cofondateurs, ont annonc\u00e9 publiquement leur d\u00e9part au cours de la semaine derni\u00e8re, selon TechCrunch. Six des 12 cofondateurs originaux de l’entreprise sont maintenant partis.<\/p>\n
Les d\u00e9parts font suite \u00e0 la d\u00e9cision d’Elon Musk de fusionner xAI avec SpaceX dans une transaction enti\u00e8rement en actions avant une introduction en bourse pr\u00e9vue, une transaction qui a converti les actions de xAI en actions d’une entreprise valoris\u00e9e \u00e0 1,25 billion de dollars, bien qu’il ne soit pas clair si le moment des d\u00e9parts est li\u00e9 aux calendriers d’acquisition.<\/p>\n
Les trois s\u00e9ries de d\u00e9parts chez OpenAI, Anthropic et xAI semblent sans rapport dans leurs sp\u00e9cificit\u00e9s, mais ils arrivent pendant une p\u00e9riode de commercialisation rapide dans toute l’industrie de l’IA qui a mis \u00e0 l’\u00e9preuve la patience des chercheurs dans plusieurs entreprises, et ils correspondent \u00e0 un sch\u00e9ma plus large de roulement et d’\u00e9puisement professionnel qui est devenu courant dans les grands laboratoires d’IA.<\/p>\n","protected":false},"excerpt":{"rendered":"
Une chercheuse d’OpenAI d\u00e9missionne \u00e0 cause des publicit\u00e9s sur ChatGPT, met en garde contre une trajectoire \u00e0 la Facebook Mercredi, l’ancienne chercheuse d’OpenAI Zo\u00eb Hitzig a publi\u00e9 un essai dans le New York Times annon\u00e7ant qu’elle avait d\u00e9missionn\u00e9 de l’entreprise lundi, le jour m\u00eame o\u00f9 OpenAI a commenc\u00e9 \u00e0 tester des publicit\u00e9s dans ChatGPT. Hitzig,<\/p>\n","protected":false},"author":3,"featured_media":543,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[62,61],"tags":[],"class_list":["post-542","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-artificielle","category-intelligence"],"_links":{"self":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/542","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/comments?post=542"}],"version-history":[{"count":0,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/542\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media\/543"}],"wp:attachment":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media?parent=542"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/categories?post=542"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/tags?post=542"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}