Fureur apr\u00e8s les v\u00e9rifications d’\u00e2ge de Discord suite \u00e0 un test louche de Persona au Royaume-Uni<\/p>\n
Peu apr\u00e8s que Discord a annonc\u00e9 que tous les utilisateurs seraient bient\u00f4t bascul\u00e9s par d\u00e9faut vers des exp\u00e9riences pour adolescents jusqu’\u00e0 ce que leur \u00e2ge soit v\u00e9rifi\u00e9, la plateforme de messagerie a fait face \u00e0 une r\u00e9action imm\u00e9diate.<\/p>\n
L’une des principales plaintes \u00e9tait que Discord pr\u00e9voyait de collecter davantage de pi\u00e8ces d’identit\u00e9 gouvernementales dans le cadre de son processus mondial de v\u00e9rification d’\u00e2ge. Beaucoup ont \u00e9t\u00e9 choqu\u00e9s que Discord soit aussi audacieux si peu de temps apr\u00e8s qu’une violation par un tiers des services d’un ancien partenaire de v\u00e9rification d’\u00e2ge ait r\u00e9cemment expos\u00e9 les pi\u00e8ces d’identit\u00e9 gouvernementales de 70 000 utilisateurs de Discord.<\/p>\n
Tentant de rassurer les utilisateurs, Discord a affirm\u00e9 que la plupart des utilisateurs n’auraient pas \u00e0 montrer de pi\u00e8ce d’identit\u00e9, s’appuyant plut\u00f4t sur des selfies vid\u00e9o utilisant l’IA pour estimer les \u00e2ges, ce qui a soulev\u00e9 des pr\u00e9occupations distinctes en mati\u00e8re de confidentialit\u00e9. \u00c0 l’avenir, peut-\u00eatre que des signaux comportementaux annuleraient le besoin de v\u00e9rifications d’\u00e2ge pour la plupart des utilisateurs, a sugg\u00e9r\u00e9 Discord, semblant minimiser le risque que des donn\u00e9es sensibles soient stock\u00e9es de mani\u00e8re inappropri\u00e9e.<\/p>\n
Discord n’a pas cach\u00e9 qu’il pr\u00e9voyait de continuer \u00e0 demander des pi\u00e8ces d’identit\u00e9 pour tout utilisateur contestant une \u00e9valuation d’\u00e2ge incorrecte, et les utilisateurs n’\u00e9taient pas contents, car c’est exactement ainsi que la violation pr\u00e9c\u00e9dente s’est produite. R\u00e9pondant aux critiques, Discord a affirm\u00e9 que la majorit\u00e9 des donn\u00e9es d’identit\u00e9 \u00e9tait rapidement supprim\u00e9e. Plus pr\u00e9cis\u00e9ment, Savannah Badalich, responsable mondiale de la politique produit de Discord, a d\u00e9clar\u00e9 \u00e0 The Verge que les pi\u00e8ces d’identit\u00e9 partag\u00e9es lors des contestations \u00ab\u00a0sont supprim\u00e9es rapidement – dans la plupart des cas, imm\u00e9diatement apr\u00e8s la confirmation de l’\u00e2ge.\u00a0\u00bb<\/p>\n
Il n’est donc pas surprenant que la r\u00e9action ait explos\u00e9 apr\u00e8s que Discord ait publi\u00e9, puis \u00e9trangement supprim\u00e9, une clause de non-responsabilit\u00e9 dans une FAQ sur les politiques d’assurance d’\u00e2ge de Discord qui contredisait le calendrier court vant\u00e9 par Discord pour le stockage des pi\u00e8ces d’identit\u00e9. Une version archiv\u00e9e de la page montre que la note partageait cet avertissement :<\/p>\n
\u00ab\u00a0Important : Si vous \u00eates situ\u00e9 au Royaume-Uni, vous faites peut-\u00eatre partie d’une exp\u00e9rience o\u00f9 vos informations seront trait\u00e9es par un fournisseur d’assurance d’\u00e2ge, Persona. Les informations que vous soumettez seront temporairement stock\u00e9es pendant 7 jours maximum, puis supprim\u00e9es. Pour la v\u00e9rification des documents d’identit\u00e9, tous les d\u00e9tails sont flout\u00e9s sauf votre photo et date de naissance, de sorte que seul ce qui est vraiment n\u00e9cessaire pour la v\u00e9rification d’\u00e2ge est utilis\u00e9.\u00a0\u00bb<\/p>\n
Les critiques ont estim\u00e9 que Discord obscurcissait non seulement la dur\u00e9e de stockage des pi\u00e8ces d’identit\u00e9, mais aussi les entit\u00e9s collectant les informations. Discord n’a pas fourni de d\u00e9tails sur ce que l’exp\u00e9rience testait ou combien d’utilisateurs \u00e9taient concern\u00e9s, et Persona n’\u00e9tait pas r\u00e9pertori\u00e9 comme partenaire sur sa plateforme.<\/p>\n
Contact\u00e9 pour commentaire, Discord a d\u00e9clar\u00e9 \u00e0 Ars que seul un petit nombre d’utilisateurs \u00e9tait inclus dans l’exp\u00e9rience, qui a dur\u00e9 moins d’un mois. Ce test s’est depuis conclu, a confirm\u00e9 Discord, et Persona n’est plus un fournisseur actif en partenariat avec Discord. \u00c0 l’avenir, Discord a promis de \u00ab\u00a0tenir nos utilisateurs inform\u00e9s lorsque des fournisseurs sont ajout\u00e9s ou mis \u00e0 jour.\u00a0\u00bb<\/p>\n
Alors que Discord cherche \u00e0 se distancer de Persona, Rick Song, PDG de Persona, a \u00e9t\u00e9 coinc\u00e9 \u00e0 r\u00e9pondre \u00e0 la r\u00e9action croissante. Esp\u00e9rant apaiser les craintes que l’une des donn\u00e9es britanniques collect\u00e9es lors de l’exp\u00e9rience risque d’\u00eatre viol\u00e9e, il a d\u00e9clar\u00e9 \u00e0 Ars que toutes les donn\u00e9es des personnes v\u00e9rifi\u00e9es impliqu\u00e9es dans le test de Discord ont \u00e9t\u00e9 supprim\u00e9es imm\u00e9diatement apr\u00e8s v\u00e9rification.<\/p>\n
Persona attire les critiques au milieu de la fureur Discord<\/p>\n
Tout cela a apparemment commenc\u00e9 apr\u00e8s que Discord a \u00e9t\u00e9 contraint de trouver des solutions de v\u00e9rification d’\u00e2ge lorsque l’interdiction australienne des r\u00e9seaux sociaux pour les moins de 16 ans et la loi britannique sur la s\u00e9curit\u00e9 en ligne sont entr\u00e9es en vigueur.<\/p>\n
Il semble qu’au Royaume-Uni, Discord ait eu du mal \u00e0 trouver des partenaires, car le service de messagerie n’essayait pas seulement d’emp\u00eacher les mineurs d’acc\u00e9der au contenu pour adultes, mais devait \u00e9galement emp\u00eacher les adultes d’envoyer des messages aux mineurs.<\/p>\n
Mettant de c\u00f4t\u00e9 les probl\u00e8mes connus avec la pr\u00e9cision de la technologie d’estimation d’\u00e2ge d’aujourd’hui, il y a une nuance souvent n\u00e9glig\u00e9e dans le fonctionnement des solutions d’\u00e2ge, en particulier lorsque la s\u00e9curit\u00e9 des enfants est impliqu\u00e9e dans les d\u00e9cisions des plateformes. Les v\u00e9rifications d’\u00e2ge qui sont suffisamment bonnes pour emp\u00eacher les enfants d’acc\u00e9der au contenu pour adultes peuvent ne pas fonctionner aussi bien que les v\u00e9rifications d’\u00e2ge pour arr\u00eater les adultes avertis en technologie avec des intentions malveillantes d\u00e9termin\u00e9s \u00e0 contacter des mineurs ; la loi britannique sur la s\u00e9curit\u00e9 en ligne exigeait que les v\u00e9rifications d’\u00e2ge de Discord bloquent les deux.<\/p>\n
Il semble probable que Discord s’attendait \u00e0 ce que Persona soit un partenaire que les responsables de l’application de la loi britannique sur la s\u00e9curit\u00e9 en ligne approuveraient. La loi avait pr\u00e9c\u00e9demment approuv\u00e9 Persona comme service de v\u00e9rification d’\u00e2ge sur Reddit, qui partage des objectifs de v\u00e9rification d’\u00e2ge similaires et complexes avec Discord.<\/p>\n
Pour Persona, le partenariat est venu \u00e0 un moment o\u00f9 de nombreux utilisateurs de Discord dans le monde surveillaient de pr\u00e8s le service, essayant de d\u00e9cider s’ils faisaient confiance \u00e0 Discord avec leurs donn\u00e9es de v\u00e9rification d’\u00e2ge.<\/p>\n
Apr\u00e8s que Discord ait choqu\u00e9 les utilisateurs en retirant brusquement la clause de non-responsabilit\u00e9 concernant l’exp\u00e9rience Persona, la m\u00e9fiance a gonfl\u00e9 et l’examen de Persona s’est intensifi\u00e9.<\/p>\n
Sur X et d’autres plateformes de m\u00e9dias sociaux, les critiques ont averti que le Founders Fund de Peter Thiel, cofondateur de Palantir, \u00e9tait un investisseur majeur dans Persona. Ils craignaient que Thiel puisse avoir une influence sur Persona ou acc\u00e8s aux donn\u00e9es de Persona, ou, pire, que les liens de Thiel avec l’administration Trump puissent signifier que le gouvernement y avait acc\u00e8s. Craignant que les donn\u00e9es Discord puissent un jour \u00eatre aliment\u00e9es dans des syst\u00e8mes de reconnaissance faciale gouvernementaux, les conspirations ont tourbillonn\u00e9, augmentant la pression sur Persona et ne laissant \u00e0 Song d’autre choix que de confronter prudemment les all\u00e9gations.<\/p>\n
Des pirates sondent Persona<\/p>\n
Peut-\u00eatre le plus probl\u00e9matique pour Persona, l’indignation massive a incit\u00e9 les chercheurs en cybers\u00e9curit\u00e9 \u00e0 enqu\u00eater. Ils ont rapidement expos\u00e9 un \u00ab\u00a0moyen de contournement\u00a0\u00bb pour \u00e9viter les v\u00e9rifications d’\u00e2ge de Persona sur Discord, a rapport\u00e9 The Rage, une publication ind\u00e9pendante qui couvre la surveillance financi\u00e8re. Mais plus pr\u00e9occupant pour les d\u00e9fenseurs de la vie priv\u00e9e, les chercheurs ont \u00e9galement trouv\u00e9 le code frontend non compress\u00e9 de Persona \u00ab\u00a0expos\u00e9 sur Internet ouvert sur un serveur autoris\u00e9 par le gouvernement am\u00e9ricain.\u00a0\u00bb<\/p>\n
\u00ab\u00a0Dans 2 456 fichiers accessibles publiquement, le code a r\u00e9v\u00e9l\u00e9 la surveillance \u00e9tendue que le logiciel Persona effectue sur ses utilisateurs, regroup\u00e9e dans une interface qui associe la reconnaissance faciale aux rapports financiers – et une mise en \u0153uvre parall\u00e8le qui semble con\u00e7ue pour servir les agences f\u00e9d\u00e9rales\u00a0\u00bb, a rapport\u00e9 The Rage.<\/p>\n
Comme The Rage l’a rapport\u00e9, et Song l’a confirm\u00e9 \u00e0 Ars, Persona n’a actuellement aucun contrat gouvernemental. Au lieu de cela, le service expos\u00e9 \u00ab\u00a0semble \u00eatre aliment\u00e9 par un chatbot OpenAI\u00a0\u00bb, a not\u00e9 The Rage. Dans une correspondance avec l’un des chercheurs, Song a pr\u00e9cis\u00e9 que ce produit est bas\u00e9 sur des dossiers publiquement disponibles pour les sanctions et les avertissements, et le service ne stocke aucune donn\u00e9e utilisateur qui lui est envoy\u00e9e. Song a d\u00e9clar\u00e9 \u00e0 Ars que le produit n’exploite pas l’IA.<\/p>\n
OpenAI est mis en \u00e9vidence comme un partenaire actif sur le site web de Persona, qui affirme que Persona examine des millions d’utilisateurs pour OpenAI chaque mois. Selon The Rage, \u00ab\u00a0le domaine expos\u00e9 publiquement, intitul\u00e9 ‘openai-watchlistdb.withpersona.com'\u00a0\u00bb, semble \u00ab\u00a0interroger les demandes de v\u00e9rification d’identit\u00e9 sur une base de donn\u00e9es OpenAI\u00a0\u00bb qui a une \u00ab\u00a0mise en \u0153uvre parall\u00e8le autoris\u00e9e FedRAMP du logiciel appel\u00e9e ‘withpersona-gov.com’.\u00a0\u00bb<\/p>\n
Les pirates ont averti \u00ab\u00a0qu’OpenAI pourrait avoir cr\u00e9\u00e9 une base de donn\u00e9es interne pour les v\u00e9rifications d’identit\u00e9 Persona qui couvre tous les utilisateurs OpenAI via son watchlistdb interne\u00a0\u00bb, exploitant apparemment l'\u00a0\u00bbopportunit\u00e9 de passer de la comparaison des utilisateurs avec une seule liste de surveillance f\u00e9d\u00e9rale, \u00e0 la cr\u00e9ation de la liste de surveillance de tous les utilisateurs eux-m\u00eames.\u00a0\u00bb<\/p>\n
OpenAI n’a pas imm\u00e9diatement r\u00e9pondu \u00e0 la demande de commentaire d’Ars.<\/p>\n
Persona nie les liens gouvernementaux et avec l’ICE<\/p>\n
Mercredi, la directrice des op\u00e9rations de Persona, Christie Kim, a cherch\u00e9 \u00e0 rassurer les clients de Persona alors que la controverse Discord grandissait. Dans un courriel, Kim a d\u00e9clar\u00e9 que Persona investit \u00ab\u00a0massivement dans les infrastructures, la conformit\u00e9 et la formation interne pour garantir que les donn\u00e9es sensibles sont trait\u00e9es de mani\u00e8re responsable\u00a0\u00bb et non expos\u00e9es.<\/p>\n
\u00ab\u00a0Au cours de la semaine derni\u00e8re, plusieurs publications sur les r\u00e9seaux sociaux et articles en ligne ont circul\u00e9 r\u00e9p\u00e9tant des affirmations trompeuses sur Persona, insinuant des conspirations autour de notre travail avec Discord et nos investisseurs\u00a0\u00bb, a \u00e9crit Kim.<\/p>\n
Notant que Persona ne \u00ab\u00a0s’engage g\u00e9n\u00e9ralement pas avec la sp\u00e9culation en ligne\u00a0\u00bb, Kim a d\u00e9clar\u00e9 que le scandale n\u00e9cessitait une r\u00e9ponse directe \u00ab\u00a0parce que nous op\u00e9rons dans un espace sensible et votre confiance en nous est fondamentale pour notre partenariat.\u00a0\u00bb<\/p>\n
Comme pr\u00e9vu, Kim a not\u00e9 que Persona n’est pas en partenariat avec des agences f\u00e9d\u00e9rales, y compris le d\u00e9partement de la S\u00e9curit\u00e9 int\u00e9rieure ou l’Immigration and Customs Enforcement (ICE).<\/p>\n
\u00ab\u00a0En toute transparence, nous travaillons activement sur quelques contrats potentiels qui seraient publiquement visibles si nous allons de l’avant\u00a0\u00bb, a \u00e9crit Kim. \u00ab\u00a0Cependant, ces engagements sont strictement pour la s\u00e9curit\u00e9 des comptes de la main-d’\u0153uvre des employ\u00e9s gouvernementaux et n’incluent pas l’ICE ou toute agence au sein du d\u00e9partement de la S\u00e9curit\u00e9 int\u00e9rieure.\u00a0\u00bb<\/p>\n
Kim a reconnu que le Founders Fund de Thiel est un investisseur mais a d\u00e9clar\u00e9 que les investisseurs n’ont pas acc\u00e8s aux donn\u00e9es de Persona et que Thiel n’est pas impliqu\u00e9 dans les op\u00e9rations de Persona.<\/p>\n
\u00ab\u00a0Il n’est pas dans notre conseil d’administration, ne nous conseille pas, n’a aucun r\u00f4le dans nos op\u00e9rations ou notre prise de d\u00e9cision, et n’est pas directement impliqu\u00e9 avec Persona de quelque mani\u00e8re que ce soit\u00a0\u00bb, a \u00e9crit Kim. \u00ab\u00a0Persona et Palantir ne partagent aucun membre du conseil d’administration et n’ont aucune relation commerciale l’un avec l’autre.\u00a0\u00bb<\/p>\n
Dans le courriel, Kim a confirm\u00e9 que Persona pr\u00e9voyait une campagne de presse pour se d\u00e9fendre, parlant avec les m\u00e9dias pour clarifier le r\u00e9cit. Elle s’est excus\u00e9e pour tout d\u00e9sagr\u00e9ment que l’examen accru des services de l’entreprise pourrait avoir caus\u00e9.<\/p>\n
Cet examen a probablement effray\u00e9 les partenaires qui auraient pu auparavant graviter vers Persona comme un partenaire qui semble avis\u00e9 concernant les approbations gouvernementales.<\/p>\n
Persona combat les probl\u00e8mes de confiance en cours<\/p>\n
Pour Persona, le cauchemar de relations publiques arrive \u00e0 un moment o\u00f9 les lois de v\u00e9rification d’\u00e2ge gagnent en popularit\u00e9 et commencent \u00e0 prendre force dans diverses parties du monde. L’exp\u00e9rience de Persona dans la v\u00e9rification des identit\u00e9s pour les services financiers afin de pr\u00e9venir la fraude semble rendre ses services – que The Rage a not\u00e9 combinent reconnaissance faciale et rapports financiers – une option attrayante pour les plateformes cherchant une solution qui apaisera les r\u00e9gulateurs. Song a ni\u00e9 que Persona lie les donn\u00e9es biom\u00e9triques faciales aux dossiers financiers ou aux bases de donn\u00e9es des forces de l’ordre dans des r\u00e9ponses \u00e0 des fils LinkedIn.<\/p>\n
Mais en raison du pass\u00e9 de Persona dans les services financiers et la protection contre la fraude, ses politiques de conservation des donn\u00e9es – qui exigent que certaines donn\u00e9es soient conserv\u00e9es \u00e0 des fins l\u00e9gales et d’audit – laisseront probablement mal \u00e0 l’aise quiconque face \u00e0 une entreprise technologique rassemblant une base de donn\u00e9es massive de pi\u00e8ces d’identit\u00e9 gouvernementales. De telles bases de donn\u00e9es sont consid\u00e9r\u00e9es comme des cibles extr\u00eamement attrayantes pour les acteurs malveillants derri\u00e8re des violations co\u00fbteuses, et les utilisateurs de Discord ont d\u00e9j\u00e0 \u00e9t\u00e9 br\u00fbl\u00e9s une fois.<\/p>\n
Sur X, Song a r\u00e9pondu \u00e0 l’un des pirates – un utilisateur nomm\u00e9 Celeste avec le pseudo vmfunc – visant \u00e0 fournir plus de transparence sur la fa\u00e7on dont Persona abordait les probl\u00e8mes signal\u00e9s. Dans le fil, il a partag\u00e9 des captures d’\u00e9cran de courriels documentant sa correspondance avec Celeste sur les pr\u00e9occupations de s\u00e9curit\u00e9.<\/p>\n
La correspondance a montr\u00e9 que Celeste a cr\u00e9dit\u00e9 Persona d’avoir rapidement corrig\u00e9 le probl\u00e8me frontend mais a \u00e9galement not\u00e9 qu’il \u00e9tait difficile de faire confiance \u00e0 l’histoire de Persona sur les liens gouvernementaux et avec Palantir, puisque l’entreprise ne mettrait pas plus d’informations au dossier. De plus, l’\u00e9quipe de conformit\u00e9 de Persona devrait \u00eatre pr\u00e9occup\u00e9e par le fait que l’entreprise n’avait pas encore commenc\u00e9 un \u00ab\u00a0examen de s\u00e9curit\u00e9 approfondi\u00a0\u00bb, a d\u00e9clar\u00e9 Celeste.<\/p>\n
\u00ab\u00a0Malheureusement, il n’y a aucun moyen que je puisse vous faire enti\u00e8rement confiance ici et vous le savez\u00a0\u00bb, a \u00e9crit Celeste, \u00ab\u00a0mais j’essaie d’agir de bonne foi\u00a0\u00bb en d\u00e9clarant explicitement que \u00ab\u00a0nous n’avons trouv\u00e9 aucune r\u00e9f\u00e9rence\u00a0\u00bb \u00e0 l’ICE ou \u00e0 d’autres entit\u00e9s pr\u00e9occupant les critiques \u00ab\u00a0dans tous les fichiers sources que nous avons trouv\u00e9s.\u00a0\u00bb<\/p>\n
Mais Song et Celeste ont finalement r\u00e9solu certains des malentendus. Vendredi, Celeste a post\u00e9 sur X que \u00ab\u00a0je vois beaucoup de d\u00e9sinformation circuler en<\/p>\n","protected":false},"excerpt":{"rendered":"
Fureur apr\u00e8s les v\u00e9rifications d’\u00e2ge de Discord suite \u00e0 un test louche de Persona au Royaume-Uni Peu apr\u00e8s que Discord a annonc\u00e9 que tous les utilisateurs seraient bient\u00f4t bascul\u00e9s par d\u00e9faut vers des exp\u00e9riences pour adolescents jusqu’\u00e0 ce que leur \u00e2ge soit v\u00e9rifi\u00e9, la plateforme de messagerie a fait face \u00e0 une r\u00e9action imm\u00e9diate. L’une<\/p>\n","protected":false},"author":3,"featured_media":729,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[117],"tags":[],"class_list":["post-728","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-verification"],"_links":{"self":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/728","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/comments?post=728"}],"version-history":[{"count":0,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/728\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media\/729"}],"wp:attachment":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media?parent=728"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/categories?post=728"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/tags?post=728"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}