Le problème d'attribution de l'IA s'aggrave à mesure que les modèles évoluent

QUAND LES IA GÉNÉRATIVES CRÉENT SANS SOURCE : LE DÉFI DE L'ATTRIBUTION ET DU DROIT D'AUTEUR
Les modèles de diffusion génératifs, capables de créer des images, vidéos et audios réalistes, sont au cœur de débats houleux concernant la propriété intellectuelle. Une récente étude du MIT révèle un phénomène préoccupant : plus ces modèles sont vastes, plus il devient difficile d'attribuer leurs productions à des données d'entraînement spécifiques. Ce "déclin d'attribution" pose de sérieuses questions pour le droit d'auteur, l'audit et la régulation de l'IA.

Le "Déclin d'Attribution" des Modèles de Diffusion
Des chercheurs du MIT CSAIL ont découvert que, lorsque les modèles de diffusion montent en échelle, l'influence mesurable des exemples d'entraînement individuels sur les sorties diminue. Ce phénomène, baptisé "déclin d'attribution", signifie qu'un modèle peut reproduire une image ou un style même si la donnée originale a été complètement retirée de son ensemble d'entraînement. En d'autres termes, si l'on supprime une pièce de donnée et que la sortie du modèle ne change pas, cette donnée n'a pas affecté la sortie, rendant l'identification de la source quasi impossible.

Implications Légales et Éthiques Accrues
Cette perte de traçabilité a des répercussions majeures sur les questions de propriété intellectuelle et de droit d'auteur. Des entreprises comme Stability AI et Midjourney sont déjà confrontées à des poursuites judiciaires, accusées de s'être entraînées sur des milliards d'images protégées sans consentement. Par exemple, une action collective est en cours contre ces acteurs, et Getty Images a également intenté des actions. Si les sorties des modèles ne peuvent être corrélées à des données d'entraînement spécifiques, cela soulève des interrogations fondamentales sur la notion d'œuvre dérivée, le fair use et la capacité des œuvres générées par IA à être elles-mêmes protégées par le droit d'auteur.

Une Méthodologie Novatrice pour Comprendre le Phénomène
Les chercheurs ont utilisé une méthode d'ablation sur une architecture d'"ensemble de diffusion". Ils ont entraîné 24 ensembles sur des jeux de données allant de 256 à plus de 160 000 images, prélevées de sept ensembles de données publiques. En retirant sélectivement des éléments, ils ont pu quantifier l'attribuabilité et ont observé que le lien tangible entre les données d'entraînement et les sorties générées s'estompait avec l'augmentation de la taille des ensembles. Cette approche permet de mieux comprendre le comportement des modèles et d'envisager des solutions pour une meilleure régulation des modèles génératifs.

Face à ce défi, l'industrie de l'IA pourrait avoir l'obligation de revoir ses modèles pour s'assurer qu'ils ne créent pas de dérivés non attribuables, transformant ce problème en une opportunité d'innovation responsable. La capacité à attribuer les sorties générées aux données d'entraînement est cruciale pour l'avenir de la gouvernance et de l'éthique de l'IA.

---

Source : InfoWorld​