Le créateur de PUBG tire la sonnette d'alarme

L'INTELLIGENCE ARTIFICIELLE GÉNÉRATIVE MENACE L'INTERNET
Le créateur de PlayerUnknown's Battlegrounds (PUBG), Brendan Greene, a récemment exprimé ses inquiétudes concernant l'impact des grands modèles de langage (LLM) sur l'internet. Selon lui, ces modèles se nourrissent de leurs propres déchets et entraînent le web dans une spirale de dégradation sans fond, ce qui pourrait rendre internet de moins en moins fiable. Cette déclaration intervient dans un contexte de débat croissant sur la fiabilité des systèmes d'IA générative.

Le problème du model collapse
Le créateur de PUBG pointe du doigt le phénomène de "model collapse", où les LLM ingèrent du contenu de mauvaise qualité, qui devient alors "vérité". Cela crée une boucle auto-alimentée où les modèles consomment leur propre production, ce qui les rend de moins en moins capables de produire des résultats diversifiés et de qualité. Une étude publiée dans Nature a démontré que l'entraînement de modèles d'IA générative sur des données réelles et générées de façon indiscriminée conduit à un effondrement de leur capacité à produire des résultats de qualité.

Les conséquences économiques et techniques
Les chercheurs de Harvard expliquent que les données non contaminées, collectées avant la généralisation de l'IA générative, pourraient devenir un actif stratégique, creusant un fossé entre les acteurs déjà établis et les nouveaux entrants. De plus, des travaux présentés à l'ICLR 2025 ont établi qu'une proportion infime de données synthétiques dans un corpus d'entraînement peut suffire à provoquer un effondrement des performances.

La nécessité d'une réflexion éthique
Brendan Greene s'attaque directement à l'obsession de l'industrie pour l'AGI (l'Intelligence Artificielle Générale), affirmant que "le scaling ne résoudra pas le problème de l'intelligence". Il est essentiel de prendre en compte les implications éthiques de l'utilisation de l'IA générative et de réfléchir à la manière de prévenir la dégradation de la qualité des données sur internet. Les conséquences de l'inaction pourraient être graves, et il est donc crucial de prendre des mesures pour préserver la fiabilité et la qualité des informations en ligne.

---

Source : Flux Intelligence artificielle Developpez​