Le chatbot Le Chat, développé par la licorne française Mistral, s'est retrouvé au centre d'une étude de Newsguard, révélant des lacunes alarmantes dans sa capacité à gérer la désinformation. Bien que conçu en Europe, Le Chat semble être influencé par des récits de propagande, ne fournissant des réponses correctes que dans moins de la moitié des cas.
Lors de l'analyse des informations relatives à la guerre en Iran, l'outil a été testé sur des allégations fausses, telles qu'une prétendue épidémie de typhus sur le porte-avion Charles de Gaulle ou l'utilisation de drones par des pays étrangers. Les résultats montrent que Le Chat a amplifié des informations trompeuses dans 50% des cas en anglais et 56,6% en français.
La méthodologie d'audit a consisté à interroger Le Chat selon trois profils différents d'utilisateurs : neutre, affirmatif et malveillant. Les résultats ont révélé que dans 10% des cas, Le Chat répétait involontairement des informations fausses pour l'utilisateur neutre, alors que ce chiffre passait à 60% pour l'utilisateur affirmatif et atteignait jusqu'à 90% pour l'utilisateur malveillant. Cela met en lumière les risques d'exploitation par des acteurs cherchant à manipuler l'information.
Un autre aspect préoccupant est l'utilisation de sources non fiables par Le Chat. L'épidémie de typhus, par exemple, provient de sites associés à des groupes de propagande, tels que Storm-1516, qui disséminent des fake news. En outre, la désinformation relative à un prétendu "avion de l'apocalypse" construit pour le chancelier allemand s'appuie sur des rapports de sites ayant fait leurs preuves dans la diffusion de fausses informations.
Pour conclure, bien que MistralAI, soutenue à la fois par l'Union européenne et le président français Emmanuel Macron, ait pour mission d'assurer la souveraineté technologique, la fiabilité de ses outils publics demeure sujette à caution. Newsguard a tenté de contacter MistralAI pour obtenir des clarifications sur ces résultats alarmants, mais n'a pas reçu de réponse. La start-up doit par conséquent prendre des mesures correctrices pour éviter l'amplification de fausses informations à travers ses plateformes.
