OpenAI découvre une opération russe qui détournait ChatGPT pour influencer les Occidentaux

OPENAI DÉMASQUE UNE CAMPAGNE D'INFLUENCE RUSSE USANT DE CHATGPT POUR LA DÉSINFORMATION
OpenAI a récemment révélé avoir démantelé une opération d'influence russe sophistiquée. Cette campagne utilisait ChatGPT pour conférer une crédibilité académique à un faux centre de réflexion, l'International Burke Institute, diffusant ainsi de la désinformation auprès des publics occidentaux. L'incident met en lumière les défis croissants posés par l'utilisation malveillante des intelligences artificielles dans les stratégies d'influence.

Une façade académique pour la désinformation
Le réseau russophone a mis en place l'International Burke Institute, se présentant comme un think tank basé en Israël. Ce faux institut publiait des articles et commentaires sur diverses plateformes comme Substack, Telegram, X, Facebook et LinkedIn. Une analyse d'OpenAI a montré que sur 36 textes examinés, 34 étaient des contenus existants, recyclés sous de fausses signatures, dont certaines appartenaient à des experts décédés avant même la prétendue création de l'institut, dont le site se prétendait en ligne depuis février 2025.

ChatGPT au service de l'influence
Les opérateurs contournaient les restrictions d'accès à ChatGPT depuis la Russie en utilisant des VPN. Ils rédigeaient leurs brouillons en russe avant de les faire traduire et reformuler par ChatGPT. L'outil d'IA servait à générer des annonces d'articles, des réponses à des publications et des logos pour la douzaine de canaux Telegram associés. L'institut a même créé un faux "Burke Sovereignty Index" qui classait les États de manière biaisée, plaçant par exemple le Vatican devant l'Espagne et critiquant ouvertement la France ou la politique allemande envers l'Ukraine.

Détection et vigilance d'OpenAI
OpenAI a pu identifier l'origine slave des messages grâce à une erreur de traduction. Dans un texte sur la coalition allemande, l'expression "Svetofor coalition" a été utilisée au lieu de l'allemand "Ampelkoalition" ("feu tricolore" en langues slaves). Cette maladresse a trahi l'origine du contenu initial. L'entreprise a rapidement banni tous les comptes ChatGPT liés à ce réseau. Depuis mai 2024, OpenAI a déjà publié plusieurs rapports sur des opérations similaires, soulignant sa vigilance constante face à l'utilisation malveillante de ses technologies par des acteurs étatiques.

Cette découverte souligne la persistance des campagnes de désinformation orchestrées par des acteurs étatiques. Elle met en évidence la nécessité pour les développeurs d'IA de maintenir une vigilance technologique et éthique constante pour contrer les usages détournés de leurs outils.

---

Source : Feed Clubic​