Le filigrane SynthID de Google est difficile \u00e0 contourner, mais il ne r\u00e9sout pas la d\u00e9sinformation par IA<\/p>\n
Le filigrane SynthID de Google pour le texte g\u00e9n\u00e9r\u00e9 par IA repr\u00e9sente une avanc\u00e9e technique impressionnante, mais les chercheurs avertissent qu’il ne constitue pas une solution miracle au probl\u00e8me croissant de la d\u00e9sinformation aliment\u00e9e par l’IA.<\/p>\n
SynthID fonctionne en ajustant subtilement les probabilit\u00e9s de s\u00e9lection de mots lors du processus de g\u00e9n\u00e9ration de texte, cr\u00e9ant ainsi un motif d\u00e9tectable sans affecter de mani\u00e8re significative la qualit\u00e9 ou la coh\u00e9rence du texte. Google affirme que le syst\u00e8me peut maintenir une pr\u00e9cision de d\u00e9tection sup\u00e9rieure \u00e0 95 pour cent, m\u00eame apr\u00e8s que le texte a \u00e9t\u00e9 modifi\u00e9, paraphras\u00e9 ou traduit.<\/p>\n
Des tests ind\u00e9pendants men\u00e9s par des chercheurs de l’Universit\u00e9 du Maryland ont confirm\u00e9 que SynthID est remarquablement r\u00e9sistant aux tentatives de suppression. L’\u00e9quipe a essay\u00e9 diverses m\u00e9thodes d’attaque, notamment la substitution de mots, la paraphrase et m\u00eame la traduction aller-retour dans diff\u00e9rentes langues, mais le filigrane est rest\u00e9 largement intact.<\/p>\n
Cependant, les experts soulignent que m\u00eame le filigrane le plus robuste ne peut r\u00e9soudre les d\u00e9fis fondamentaux de la d\u00e9sinformation par IA. Le principal probl\u00e8me r\u00e9side dans l’adoption : le filigrane ne fonctionne que si les cr\u00e9ateurs de contenu IA choisissent de l’impl\u00e9menter. Il n’existe aucun moyen de forcer tous les d\u00e9veloppeurs d’IA \u00e0 utiliser un filigrane, en particulier les acteurs malveillants qui cr\u00e9ent intentionnellement du contenu trompeur.<\/p>\n
De plus, le texte peut toujours \u00eatre copi\u00e9 et retap\u00e9 manuellement, supprimant compl\u00e8tement tout filigrane num\u00e9rique. Bien que cela ajoute des frictions au processus, cela ne l’emp\u00eache pas enti\u00e8rement. Les campagnes de d\u00e9sinformation sophistiqu\u00e9es disposant de ressources suffisantes pourraient facilement contourner cette limitation.<\/p>\n
Un autre d\u00e9fi concerne l’accessibilit\u00e9 de la d\u00e9tection. Pour que les filigranes soient efficaces dans la lutte contre la d\u00e9sinformation, les plateformes de m\u00e9dias sociaux, les sites d’actualit\u00e9s et les utilisateurs individuels auraient besoin d’acc\u00e9der aux outils de d\u00e9tection. Google n’a pas encore pr\u00e9cis\u00e9 comment il pr\u00e9voit de rendre la d\u00e9tection SynthID largement disponible ou si elle restera propri\u00e9taire.<\/p>\n
Les chercheurs sugg\u00e8rent que le filigrane devrait faire partie d’une strat\u00e9gie \u00e0 plusieurs volets pour lutter contre la d\u00e9sinformation par IA. D’autres composantes pourraient inclure l’\u00e9ducation aux m\u00e9dias, les am\u00e9liorations de l’esprit critique et le d\u00e9veloppement de normes de l’industrie pour l’\u00e9tiquetage du contenu g\u00e9n\u00e9r\u00e9 par IA.<\/p>\n
Certains experts plaident pour des approches r\u00e9glementaires qui exigeraient la divulgation du contenu g\u00e9n\u00e9r\u00e9 par IA dans certains contextes, en particulier pour le mat\u00e9riel politique ou de sant\u00e9 publique. Cependant, de telles r\u00e9glementations soul\u00e8vent des questions complexes concernant l’application et la libert\u00e9 d’expression.<\/p>\n
La technologie SynthID elle-m\u00eame continue d’\u00e9voluer. Google travaille \u00e0 \u00e9tendre le filigrane au-del\u00e0 du texte pour inclure les images, l’audio et la vid\u00e9o. L’entreprise collabore \u00e9galement avec d’autres acteurs de l’industrie par le biais de la Coalition pour la provenance et l’authenticit\u00e9 du contenu afin de d\u00e9velopper des normes ouvertes pour l’authentification du contenu.<\/p>\n
Malgr\u00e9 ses limites, SynthID repr\u00e9sente un progr\u00e8s important dans la bo\u00eete \u00e0 outils technique disponible pour identifier le contenu g\u00e9n\u00e9r\u00e9 par IA. La question demeure de savoir si l’adoption sera suffisamment large pour avoir un impact significatif sur l’\u00e9cosyst\u00e8me de l’information.<\/p>\n
\u00c0 mesure que les mod\u00e8les d’IA deviennent de plus en plus sophistiqu\u00e9s et accessibles, l’urgence de trouver des solutions efficaces au probl\u00e8me de la d\u00e9sinformation ne fait que cro\u00eetre. Le filigrane seul ne suffira pas, mais combin\u00e9 \u00e0 d’autres strat\u00e9gies, il pourrait contribuer \u00e0 cr\u00e9er un environnement d’information plus fiable.<\/p>\n","protected":false},"excerpt":{"rendered":"
Le filigrane SynthID de Google est difficile \u00e0 contourner, mais il ne r\u00e9sout pas la d\u00e9sinformation par IA Le filigrane SynthID de Google pour le texte g\u00e9n\u00e9r\u00e9 par IA repr\u00e9sente une avanc\u00e9e technique impressionnante, mais les chercheurs avertissent qu’il ne constitue pas une solution miracle au probl\u00e8me croissant de la d\u00e9sinformation aliment\u00e9e par l’IA. SynthID<\/p>\n","protected":false},"author":0,"featured_media":2689,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[129],"tags":[],"class_list":["post-2688","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-intelligence-artificielle"],"_links":{"self":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/2688","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/comments?post=2688"}],"version-history":[{"count":0,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/2688\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media\/2689"}],"wp:attachment":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media?parent=2688"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/categories?post=2688"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/tags?post=2688"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}