OpenAI a résolu un problème de visibilité, mais le problème de gouvernance persiste

LA GOUVERNANCE DE L'IA : UN DÉFI PERMANENT POUR LES ENTREPRISES
Les entreprises sont confrontées à un défi permanent pour assurer la gouvernance de l'intelligence artificielle (IA), en particulier avec les mises à jour fréquentes des modèles et des fonctionnalités. OpenAI a récemment introduit une nouvelle fonctionnalité de contrôle des sessions pour améliorer la visibilité et la sécurité de son modèle de conversation ChatGPT. Cette fonctionnalité permet aux utilisateurs de réviser et de fermer des sessions actives à travers une interface simple.

Contrôle des sessions
La fonctionnalité de contrôle des sessions d'OpenAI est une étape importante pour améliorer la sécurité et la gouvernance des modèles de conversation. Elle permet aux administrateurs de voir les sessions actives connues, y compris les informations sur les appareils et les navigateurs, et de fermer des sessions spécifiques si nécessaire. Cependant, cette fonctionnalité a des limites, notamment le fait qu'elle ne peut pas gérer les applications connectées ou les sessions de connexion via des services tiers.

Défis de gouvernance
Les entreprises sont confrontées à des défis importants pour assurer la gouvernance de l'IA, en particulier avec les mises à jour fréquentes des modèles et des fonctionnalités. Les experts soulignent que la gouvernance de l'IA est un jeu de rattrapage permanent, car les mises à jour des modèles et des fonctionnalités peuvent rendre les cadres de gouvernance obsolètes avant même qu'ils ne soient testés. Les entreprises doivent donc évoluer pour traiter les modèles d'IA comme des systèmes vivants plutôt que des logiciels fixes.

Perspectives
Les entreprises doivent établir des attentes claires de gestion des changements avec les fournisseurs de modèles d'IA, notamment en ce qui concerne la transparence autour des mises à jour des modèles, des changements de comportement et des impacts potentiels sur les flux de travail existants. La gouvernance efficace de l'IA dépend de plus en plus de la visibilité des changements, et non seulement de la visibilité des risques. Les entreprises doivent donc intégrer la validation continue, la surveillance et la réévaluation périodique dans leurs programmes de sécurité et de gouvernance. En savoir plus sur l'intelligence artificielle et la sécurité sur InfoWorld.

---

Source : OpenAI fixed a visibility problem; the governance problem remains. | InfoWorld​