Anthropic rejette les interdictions d'IA à poids ouvert, demande des contrôles de puces chinoises et des tests de séc...

ANTHROPIC DÉFEND L'ACCÈS CONTRÔLÉ À L'IA POUR PRÉVENIR LES RISQUES DE SÉCURITÉ
Le débat autour de l'accès aux modèles d'intelligence artificielle (IA) à poids ouvert continue de faire rage. Anthropic, une entreprise spécialisée dans l'IA, a récemment pris position sur la question, rejetant les interdictions générales sur les modèles à poids ouvert et appelant à des contrôles plus stricts sur les puces chinoises et les tests de sécurité. Selon Dario Amodei, PDG d'Anthropic, les restrictions générales sur les modèles à poids ouvert ne répondent pas aux préoccupations de sécurité nationale, et il est nécessaire de trouver un équilibre entre l'accès à l'IA et la prévention des risques.

Les risques de l'IA à poids ouvert
Les modèles d'IA à poids ouvert peuvent présenter des risques importants, notamment en termes de sécurité nationale. En effet, ces modèles peuvent être utilisés par des gouvernements autoritaires pour améliorer leurs capacités de surveillance et de contrôle. De plus, les modèles à poids ouvert peuvent être utilisés pour créer des attaques de type "deepfake" ou pour améliorer les capacités de cyberattaque.

Les propositions d'Anthropic
Anthropic propose de mettre en place des contrôles plus stricts sur les puces chinoises et les tests de sécurité pour les modèles d'IA à poids ouvert. L'entreprise estime que ces mesures permettront de prévenir les risques de sécurité tout en préservant l'accès à l'IA pour les entreprises et les développeurs. Selon Amodei, les tests de sécurité devraient être obligatoires pour les modèles d'IA qui présentent des risques importants, et les puces chinoises devraient être soumises à des contrôles plus stricts pour prévenir les risques de contrebande et de piratage.

Les implications pour les entreprises
Les propositions d'Anthropic pourraient avoir des implications importantes pour les entreprises qui utilisent des modèles d'IA à poids ouvert. En effet, ces entreprises devraient s'assurer que les modèles qu'elles utilisent sont sécurisés et conformes aux normes de sécurité en vigueur. Les entreprises devraient également être conscientes des risques potentiels liés à l'utilisation de modèles d'IA à poids ouvert et prendre des mesures pour les prévenir. Pour plus d'informations, vous pouvez consulter le site web d'Anthropic ou le site web de ComputerWorld.

En conclusion, les propositions d'Anthropic pour l'accès contrôlé à l'IA à poids ouvert pourraient avoir des implications importantes pour les entreprises et les développeurs. Il est essentiel de trouver un équilibre entre l'accès à l'IA et la prévention des risques de sécurité pour garantir un avenir sécurisé pour l'IA.

---

Source : InfoWorld​