Anthropic découvre un trou de 11 mois dans la sécurité de ses IA

FAILLE DE SÉCURITÉ MAJEURE DANS LES SYSTÈMES D'IA D'ANTHROPIC
La société Anthropic a récemment publié son deuxième rapport de risques, qui révèle une faille de sécurité majeure dans ses systèmes d'IA. Les filtres censés bloquer les échanges liés aux armes biologiques sont restés désactivés pendant onze mois sur les plateformes utilisées par ses prestataires humains. Cette faille a affecté environ 50 000 prestataires et près de 133 millions d'échanges.

La faille de sécurité
La faille de sécurité a été découverte récemment, mais elle remonte à mai 2025, date du premier déploiement de modèles dotés de ces garde-fous. Un indicateur technique réservé à un usage interne désactivait en même temps le blocage des classificateurs biologiques et la journalisation de leurs alertes.

Les conséquences
Anthropic a fait rejouer l'ensemble des échanges concernés par un modèle classificateur, Claude Sonnet 5, chargé de repérer après coup tout contenu à risque biologique élevé. Sur les 1 197 échanges signalés, 757 provenaient des propres équipes de l'entreprise ; parmi les 440 restants, tous sauf 62 avaient été générés par des exercices de red-teaming délibérés.

Les mesures prises
Anthropic a pris des mesures pour corriger la faille de sécurité et prévenir de futures failles. La société a également mis en place des processus pour améliorer la sécurité de ses systèmes d'IA et protéger les données de ses utilisateurs. Vous pouvez en savoir plus sur les dernières actualités en matière de sécurité des données et sur les mesures prises par Anthropic.

En conclusion, la faille de sécurité découverte par Anthropic est une alerte importante pour l'industrie de l'IA et souligne la nécessité de prendre des mesures pour assurer la sécurité et la confiance des utilisateurs. Les entreprises doivent être transparentes et prendre des mesures pour prévenir les failles de sécurité et protéger les données de leurs utilisateurs. Vous pouvez également consulter le comparatif des meilleurs chatbots à intelligence artificielle pour en savoir plus sur les solutions d'IA disponibles.

---

Source : Feed Clubic​