Le filigrane SynthID de Google est difficile à contourner, mais il ne résout pas la désinformation par IA
Le filigrane SynthID de Google pour le texte généré par IA représente une avancée technique impressionnante, mais les chercheurs avertissent qu’il ne constitue pas une solution miracle au problème croissant de la désinformation alimentée par l’IA.
SynthID fonctionne en ajustant subtilement les probabilités de sélection de mots lors du processus de génération de texte, créant ainsi un motif détectable sans affecter de manière significative la qualité ou la cohérence du texte. Google affirme que le système peut maintenir une précision de détection supérieure à 95 pour cent, même après que le texte a été modifié, paraphrasé ou traduit.
Des tests indépendants menés par des chercheurs de l’Université du Maryland ont confirmé que SynthID est remarquablement résistant aux tentatives de suppression. L’équipe a essayé diverses méthodes d’attaque, notamment la substitution de mots, la paraphrase et même la traduction aller-retour dans différentes langues, mais le filigrane est resté largement intact.
Cependant, les experts soulignent que même le filigrane le plus robuste ne peut résoudre les défis fondamentaux de la désinformation par IA. Le principal problème réside dans l’adoption : le filigrane ne fonctionne que si les créateurs de contenu IA choisissent de l’implémenter. Il n’existe aucun moyen de forcer tous les développeurs d’IA à utiliser un filigrane, en particulier les acteurs malveillants qui créent intentionnellement du contenu trompeur.
De plus, le texte peut toujours être copié et retapé manuellement, supprimant complètement tout filigrane numérique. Bien que cela ajoute des frictions au processus, cela ne l’empêche pas entièrement. Les campagnes de désinformation sophistiquées disposant de ressources suffisantes pourraient facilement contourner cette limitation.
Un autre défi concerne l’accessibilité de la détection. Pour que les filigranes soient efficaces dans la lutte contre la désinformation, les plateformes de médias sociaux, les sites d’actualités et les utilisateurs individuels auraient besoin d’accéder aux outils de détection. Google n’a pas encore précisé comment il prévoit de rendre la détection SynthID largement disponible ou si elle restera propriétaire.
Les chercheurs suggèrent que le filigrane devrait faire partie d’une stratégie à plusieurs volets pour lutter contre la désinformation par IA. D’autres composantes pourraient inclure l’éducation aux médias, les améliorations de l’esprit critique et le développement de normes de l’industrie pour l’étiquetage du contenu généré par IA.
Certains experts plaident pour des approches réglementaires qui exigeraient la divulgation du contenu généré par IA dans certains contextes, en particulier pour le matériel politique ou de santé publique. Cependant, de telles réglementations soulèvent des questions complexes concernant l’application et la liberté d’expression.
La technologie SynthID elle-même continue d’évoluer. Google travaille à étendre le filigrane au-delà du texte pour inclure les images, l’audio et la vidéo. L’entreprise collabore également avec d’autres acteurs de l’industrie par le biais de la Coalition pour la provenance et l’authenticité du contenu afin de développer des normes ouvertes pour l’authentification du contenu.
Malgré ses limites, SynthID représente un progrès important dans la boîte à outils technique disponible pour identifier le contenu généré par IA. La question demeure de savoir si l’adoption sera suffisamment large pour avoir un impact significatif sur l’écosystème de l’information.
À mesure que les modèles d’IA deviennent de plus en plus sophistiqués et accessibles, l’urgence de trouver des solutions efficaces au problème de la désinformation ne fait que croître. Le filigrane seul ne suffira pas, mais combiné à d’autres stratégies, il pourrait contribuer à créer un environnement d’information plus fiable.
