Enseigner aux agents SRE IA à échouer en toute sécurité et gagner la confiance de votre équipe

LES AGENTS SRE IA : COMMENT LES RENDRE FIABLES ET SÉCURISÉS
L'ingénierie de la fiabilité des sites (SRE) est en train d'entrer dans une nouvelle phase, avec l'utilisation d'agents IA pour aider à la gestion des incidents. Cependant, la question est de savoir si ces agents peuvent agir de manière sûre, cohérente et transparente lorsqu'un système est sous stress. La confiance est un élément clé pour les agents SRE IA, et elle doit être gagnée grâce à une conception et une mise en œuvre soigneuses.

Les piliers de la confiance
La confiance dans les agents SRE IA repose sur cinq piliers : l'observabilité ancrée, les gardes-fous clairs, la conception avec un humain dans la boucle, l'explicabilité et l'évaluation contre des incidents réels. Ces piliers sont essentiels pour garantir que les agents SRE IA puissent fonctionner de manière sûre et fiable.

Architecture et conception
Une architecture de confiance pour les agents SRE IA doit séparer la raison de l'actuation. Les agents peuvent investiguer, résumer, proposer et même mettre en scène un plan, mais la mise en œuvre réelle doit passer par une couche de sécurité déterministe qui valide les autorisations, les risques et l'état actuel de production. Les humains doivent approuver les actions à risque élevé ou à faible confiance.

Évaluation et mise en œuvre
L'évaluation des agents SRE IA doit se faire contre des incidents réels, et non contre des benchmarks théoriques. Les tests doivent inclure des répétitions d'incidents historiques, des comparaisons de chemins d'or et de chemins d'échec, ainsi que des tests de stress et de résistance. Les agents SRE IA doivent être conçus pour être observables, avec des journaux de raisonnement, d'exécution et de résultats. Les humains doivent être impliqués dans la boucle de décision, notamment pour les actions à risque élevé.

En conclusion, les agents SRE IA peuvent être rendus fiables et sécurisés en suivant les piliers de la confiance et en les évaluant contre des incidents réels. Les entreprises comme StackGen proposent des solutions pour aider les équipes SRE à mettre en œuvre des agents IA de manière sécurisée et efficace.

---

Source : CrowdStrike identifies five new AI prompt injection threats | InfoWorld​