Le filigrane SynthID de Google : Résistant, mais insuffisant contre la désinformation par IA.

IA ET FILIGRANES : GOOGLE SYNTHID FACE AU DÉFI DE LA VÉRITÉ NUMÉRIQUE
La prolifération rapide des contenus générés par l'IA générative pose un défi majeur pour distinguer le vrai du faux sur Internet. Face à ce volume colossal, Google a développé SynthID, une technologie de filigrane invisible destinée à marquer les médias produits par l'intelligence artificielle. Cet outil, bien que robuste, se heurte à des limites significatives qui entravent sa capacité à endiguer la désinformation.

La robustesse de SynthID
SynthID est un filigrane invisible intégré directement dans les pixels des images ou les ondes sonores des audios, conçu pour être résistant aux modifications. Contrairement aux schémas de métadonnées comme le C2PA, qui peuvent être facilement retirés par une simple capture d'écran, SynthID s'ancre profondément dans le contenu. Des tests indépendants ont confirmé sa résilience face à des compressions et redimensionnements intensifs, démontrant sa capacité à rester détectable même lorsque l'image est fortement dégradée.

Limites et défis d'interopérabilité
Malgré sa robustesse, SynthID n'est pas infaillible et ne prétend pas résister à des attaques ciblées et sophistiquées. Google restreint l'accès à son outil de détection (pas d'API, environ dix requêtes par jour via Gemini) pour éviter que des acteurs malveillants ne l'utilisent pour le contourner. Un obstacle majeur réside également dans le manque d'interopérabilité : le détecteur de Google ne reconnaît pas les filigranes d'autres entreprises comme OpenAI, et inversement, forçant les utilisateurs à des vérifications multiples et fragmentées. Google reconnaît cette limite et œuvre pour un écosystème plus unifié.

L'illusion d'une solution miracle
Au-delà des défis techniques, les filigranes invisibles ne peuvent constituer une solution complète à la désinformation. De nombreux outils d'IA, notamment les modèles open source, ne les adopteront jamais, permettant à quiconque de générer du contenu non marqué sur son ordinateur personnel. Cette situation pourrait créer un faux sentiment de sécurité, où les utilisateurs croiraient à tort qu'une image sans filigrane est automatiquement authentique. Par ailleurs, la prolifération de l'IA renforce le « dividende du menteur », où des preuves réelles peuvent être réfutées en les attribuant faussement à des manipulations d'IA. Le filigrane SynthID de Google est une avancée, mais il ne résout pas à lui seul la complexité de la vérité numérique.

En définitive, bien que SynthID représente une étape importante dans l'identification des contenus IA, il ne constitue pas un rempart absolu contre la désinformation. La lutte pour la vérité numérique exigera des approches multiples et coordonnées, bien au-delà de la seule technologie de filigranage.

---

Source : Flux Intelligence artificielle Developpez​