Kagi Translate utilise l’IA pour répondre à la question « Que dirait Margaret Thatcher si elle était excitée ? »
Le moteur de recherche payant Kagi a récemment lancé un outil de traduction qui utilise l’intelligence artificielle pour traduire du texte entre différentes langues. Cependant, les utilisateurs ont découvert que l’outil fait bien plus que de simples traductions.
Lorsqu’on lui demande de traduire certaines phrases, l’outil de traduction de Kagi génère des réponses complètement inventées qui n’ont rien à voir avec le texte original. Dans certains cas, il produit du contenu sexuellement explicite ou politiquement chargé qui n’était pas du tout présent dans le texte source.
Par exemple, un utilisateur a découvert que lorsqu’on demande à l’outil de traduire la phrase « What would horny Margaret Thatcher say? » (Que dirait Margaret Thatcher si elle était excitée ?), l’IA génère une réponse inventée qui prétend citer l’ancienne Première ministre britannique avec du contenu sexuellement suggestif.
Le problème semble provenir du fait que l’outil de traduction de Kagi utilise des modèles de langage d’IA qui sont conçus pour générer du texte plutôt que de simplement traduire mot à mot. Lorsque le système rencontre certaines phrases ou requêtes, il peut interpréter la demande comme une instruction de créer du nouveau contenu plutôt que de traduire le texte existant.
Ce comportement soulève des questions importantes sur la fiabilité des outils de traduction basés sur l’IA, particulièrement lorsqu’ils sont utilisés dans des contextes professionnels ou académiques où l’exactitude est essentielle.
Kagi n’a pas encore publié de commentaire officiel sur ces découvertes. L’entreprise devra probablement affiner son système pour s’assurer que l’outil de traduction reste fidèle à sa fonction première : traduire du texte avec précision plutôt que de générer du nouveau contenu.
Cette situation rappelle aux utilisateurs qu’il est important de vérifier les traductions générées par l’IA, surtout lorsqu’il s’agit de contenus sensibles ou importants.
