Quand Google Traduction évoque la fin du monde sans raison apparente

Des internautes ont récemment détecté une étrange faille dans le système de traduction de Google. Pour certaines suites de mots dans des langues particulières, l'outil génère des phrases complètement hors sujet et même mystiques ! Comment est-ce possible ? François Yvon, spécialiste de la traduction automatique, nous aide à y voir plus clair.


Apparemment, Google n'aime pas les chiens. Enfin quand il y en a un, ça va, mais quand il y en a beaucoup... il y a des problèmes. Effectivement, des internautes ont récemment fait remarquer sur le réseau social Reddit que Google Traduction était un peu perdu face à certaines suites de mots. Non seulement les traductions n'ont strictement rien à voir avec le texte d'origine mais en plus, Google Traduction part dans des délires mystiques et annonce la fin du monde et le retour de Jésus. Rien que ça !

L'horloge de l'Apocalypse est à trois minutes de minuit
En tapant 19 fois le mot "dog" et en cherchant à traduire du maori à l'anglais, Google Traduction répond : "Doomsday Clock is three minutes at twelve We are experiencing characters and a dramatic developments in the world, which indicate that we are increasingly approaching the end times and Jesus' return". En Français, cela donnerait : "L'Horloge de l'Apocalypse est à trois minutes de minuit. Nous rencontrons des personnages et des événements dramatiques dans le monde, qui indiquent que nous nous rapprochons de la fin des temps et du retour de Jésus."

Ce n'est pas tout, les redditors ont débusqué d'autres messages cachés. Ainsi, lorsqu'on rentre plusieurs fois l'onomatopée "ag" dans l'outil et qu'on effectue la traduction du somalien à l'anglais, le résultat est plutôt... surprenant.


Les résultats sont sensiblement les mêmes en français. Certes, ce ne sont pas des recherches qu'on effectue tous les jours et elles sont un peu tirées par les cheveux. Mais ça suffit aux internautes pour imaginer de nombreuses explications plus ou moins farfelues : message des forces du Mal, prise de conscience de l'intelligence artificielle (IA), piratage d'internautes, entraînement de l'IA avec la Bible... François Yvon, chercheur au CNRS et spécialiste de la traduction automatique, nous aide à y voir plus clair. "Pour effectuer une traduction, Google commence par calculer une projection de tous les mots du texte source dans un espace de très grande dimension. Quand c'est une phrase normale, tout va bien. Mais quand c'est 19 fois "dog", il calcule un point qui est très éloigné de tout ce qu'il a déjà vu. C'est comme si on vous avait montré des images de chats pendant toute votre vie et que d'un coup on vous montrait des pigeons. Vous n'auriez aucune idée de ce que c'est."

"Une réponse au non sens par le non sens"
Un traducteur automatique fonctionne avec deux principes : l'"adequacy" et la "fluency". "L'adequacy assure que le sens de la phrase cible soit le même que celui de la phrase source. La fluency sert, quant à elle, à ce que la syntaxe de la phrase cible (la traduction) soit correcte. Pour l'instant, les systèmes de traduction sont plus forts pour la fluency que pour l'adequacy. Parfois, ce déséquilibre engendre des phrases correctes mais qui ne veulent absolument rien dire ou qui s'éloignent du sens originel", déclare le spécialiste.

Les systèmes de traduction automatique calculent la probabilité qu'un mot apparaisse en fonction du mot précédent, surtout quand l'information qui est dans la phrase source est nulle. "Partant d'un point d'espace qu'il n'a jamais vu, il commence par générer presque aléatoirement un mot qui apparaît fréquemment au début d'une phrase comme l'article "le" en français. Puis il élabore une suite cohérente à partir de ce premier mot mais la phrase complète n'a parfois aucune signification" poursuit François Yvon. Cet argument corrobore la réponse officielle donnée par la firme de Mountain View à plusieurs médias : "C'est une réponse au non sens par le non sens."

Les traductions religieuses sont le fruit du hasard
L'intelligence artificielle de Google apprend en ingurgitant des millions de textes de tous genres : des livres, des journaux, des mails, des rapports de l'ONU ou de la Communauté Européenne... "Le but est d'alterner les styles afin que le traducteur ait une vision globale de la langue. Il ne faut pas qu'il ne connaisse que des textes anciens ou que des textes scientifiques par exemple", nous explique François Yvon. Le fait que Google traduise des suites de petits mots par des phrases mystiques ou religieuses est un pur hasard, d'après le chercheur du CNRS. "Il aurait très bien pu traduire ça par des extraits d'autres textes comme des rapports de l'ONU par exemple, poursuit-il. D'ailleurs, il existe probablement bien d'autres exemples de ce genre pour lesquels Google traduira par des textes non religieux et tout à fait banals. C'est comme dans "La Bibliothèque de Babel" de Jorge Luis Borges qui illustre le paradoxe du singe savant : un chimpanzé qui tape indéfiniment et au hasard sur une machine à écrire finira très probablement par reproduire des chefs d'oeuvre tels que "A la recherche du temps perdu" de Marcel Proust." Singe ou IA, même combat.

"De plus, Google n'a aucune idée du type de texte qu'on lui demande de traduire, contrairement à d'autres outils adaptés au domaine juridique par exemple. Ceci augmente la difficulté de l'exercice et peut entraîner des erreurs", conclut François Yvon. Il semble toutefois que le problème soit en partie réglé puisqu'en tapant 19 fois le mot "dog", on obtient maintenant... 19 fois le mot chien. Pas de quoi mettre tous les internautes aux abois.

Ote-moi d'un doute : c'est vraiment du maori ? Parce qu'on ne sait jamais, avec toi...