Moratoire sur l’IA : Anthropic veut geler un marché qu’elle domine

ANTHROPIC PROPOSE UN FREIN À L'IA POUR ÉVITER LES DANGERS DE L'AUTO-AMÉLIORATION
L'entreprise Anthropic, spécialisée dans l'intelligence artificielle (IA), a proposé un moratoire sur le développement de l'IA de pointe, invoquant les risques potentiels de l'auto-amélioration récursive. Cette démarche intervient alors que la société prépare son introduction en Bourse, avec une évaluation de plus de 1000 milliards de dollars. Anthropic justifie sa demande en publiant des données internes qui montrent l'accélération rapide des capacités de ses modèles d'IA, notamment Claude, qui peut désormais accomplir des tâches de manière autonome pendant des heures.

L'auto-amélioration récursive : un risque pour l'humanité
Les modèles d'IA d'Anthropic progressent à un rythme tel que'ils pourraient bientôt être capables de s'améliorer eux-mêmes sans intervention humaine, ce qui soulève des inquiétudes quant aux conséquences potentielles. Anthropic propose donc la création d'un dispositif mondial pour ralentir ou suspendre le développement des IA les plus avancées, afin de permettre une réflexion plus approfondie sur les implications de ces technologies.

Un précédent et des défis
Cette demande n'est pas sans précédent, puisqu'un appel similaire avait été lancé en 2023 par plus d'un millier de signataires, dont Steve Wozniak et Elon Musk. Cependant, la mise en place d'un moratoire crédible nécessiterait des mécanismes de vérification solides, ce qui constitue un défi majeur. Anthropic prévoit d'organiser des discussions avec des décideurs politiques et des chercheurs pour réfléchir à ces questions.

Des motivations multiples
La proposition d'Anthropic a suscité des critiques et des accusations de "marketing de la peur". Cependant, il est possible que les préoccupations sécuritaires exprimées par l'entreprise soient sincères, tout en coexistant avec des motivations commerciales. Un moratoire mondial sur le développement des IA de pointe pourrait en effet consolider la position d'Anthropic sur le marché, en cristallisant les positions acquises et en figeant un classement dont l'entreprise sortirait en bonne place.

---

Source : Silicon.fr