GOUVERNANCE DE L'IA : LA DERNIÈRE FRONTIÈRE
L'écosystème de l'IA d'entreprise a connu un développement considérable au cours de la dernière année, mais un problème persiste : la gouvernance de l'IA. Les frameworks d'agents ne sont pas conçus pour évaluer chaque action d'agent contre les politiques et les exigences de conformité. Il est donc nécessaire d'ajouter une couche supplémentaire pour gérer ces problèmes de gouvernance.

Les limites des frameworks d'agents
Les frameworks d'agents modernes sont des systèmes de coordination qui déterminent ce que le système doit faire, mais ils ne traitent pas des problèmes de gouvernance tels que la localisation des données, l'approbation des modèles et les exigences d'audit. Ces problèmes nécessitent une couche supplémentaire qui évalue chaque action d'agent contre les politiques de gouvernance.

La couche manquante
La couche manquante est une couche d'orchestration qui se situe entre la logique d'agent et l'exécution. Elle évalue chaque action d'agent contre les politiques de gouvernance et détermine si et où l'action est autorisée à se produire. Cette couche est essentielle pour garantir que les systèmes d'IA d'entreprise soient conformes aux exigences de gouvernance et de sécurité.

L'importance des ontologies
Les ontologies sont des infrastructures essentielles pour la couche d'orchestration. Elles permettent au système de raisonner sur les relations entre les entités impliquées dans une demande et de déterminer ce qui est autorisé. Les ontologies peuvent être construites autour de n'importe quel ensemble d'entités et de relations que l'entreprise doit gérer, telles que les datasets, les modèles, les agents, les utilisateurs, les réglementations, les tâches et les environnements.

En conclusion, la gouvernance de l'IA est un problème complexe qui nécessite une approche holistique. La couche manquante est une couche d'orchestration qui est essentielle pour garantir que les systèmes d'IA d'entreprise soient conformes aux exigences de gouvernance et de sécurité. Les entreprises doivent investir dans la création de cette couche pour assurer la réussite de leurs projets d'IA. Kubernetes peut servir de modèle pour la création de cette couche.

---

Source : EDB converges analytics on Postgres to support AI agents | InfoWorld​