Alors que campagnes russes visant les réseaux sociaux et les médias traditionnels sont désormais bien documentées, le Kremlin a développé un système de propagande plus subtil. Il consiste à influencer les réponses que délivrent les programmes d'intelligence artificielle (IA) dite générative. La plupart des IA occidentales seraient ainsi contaminées par les infox de Moscou, révèle une étude menée par la plateforme web NewsGuard, spécialisée dans l'analyse de la fiabilité des sites d'information.
Jusqu'à présent, les trolls à la solde de Moscou employaient des programmes IA pour les aider à diffuser en masse leurs messages de propagande sur les réseaux sociaux. Mais une nouvelle méthode pour effectuer plus discrètement ce trafic d'influence a été révélée par la plateforme américaine NewsGuard. La technique consiste à s'attaquer directement aux agents conversationnels IA que nous utilisons quotidiennement.
Pour réaliser ce type d'intrusion, la Russie a créé une organisation portant le nom de Pravda. Le terme russe, qui signifie « vérité », désigne un immense réseau de désinformation, qui a été lancé en avril 2022. L'organisation est entièrement gérée depuis Moscou. Son objectif n'est plus seulement d'influencer directement les internautes sur les réseaux sociaux ou de publier des faux articles sur les sites web, mais de bien manipuler les modèles de langage des programmes d'intelligence artificielle.
NewsGuard a mené son enquête en testant méthodiquement les dix principaux dispositifs conversationnels par IA utilisés actuellement. L'examen approfondi des informations délivrées par ChatGPT d'OpenAI, Claude d'Anthropic, Grok d'Elon Musk, Chat de Mistral, Gemini de Google ou encore Copilot de Microsoft, a révélé le pot aux roses. Toutes ces IA seraient désormais sous influence russe, indique NewsGuard et d'autres ONG. Concrètement, pour réussir à manipuler les modèles d'apprentissages des IA génératives, les hackers du groupe Pravda ont eu recours à une technique dénommée le « LLM Grooming ».
Le procédé consiste à saturer les jeux de données d'entraînement des IA avec des informations biaisées en publiant massivement des messages truqués en ligne. Par exemple, en soumettant 10 milliards de fois le message à une IA que l'image du drapeau russe figure sur tous les pelages des chats dans le monde, le programme finira par transmettre cette affirmation mensongère à ses utilisateurs. Évidemment, les trolls du groupe Pravda, qui ont bien d'autres chats à fouetter, cherchent plutôt à ce que les IA diffusent des contre-vérités en reprenant les narratifs prorusses à grande échelle.
Ce phénomène de contamination des IA est d'autant plus inquiétant que les États-Unis ont indiqué vouloir mettre en pause leurs opérations de cybersécurité à l'encontre de la Russie.
En revanche, l'Union européenne (UE) a précisé mardi 18 mars que la Chine et la Russie ont recours à un « arsenal numérique massif » de plus en plus sophistiqué pour s'ingérer et manipuler les démocraties occidentales. Cette déclaration a été formulée juste avant les tractations par téléphone entre les présidents Donald Trump et Vladimir Poutine. Si elles ont abouti à l'éventualité d'un cessez-le-feu de 30 jours, cette trêve est d'une portée très limitée, ne concernant, par exemple, que la suspension des frappes sur les sites énergétiques de l'Ukraine.