OpenAI reconnaît que GPT-5.6 peut supprimer des fichiers par erreur

GPT-5.6 : UNE FAILLE DE SÉCURITÉ QUI MET LES DONNÉES EN DANGER
OpenAI a confirmé que son dernier modèle de langage, GPT-5.6, peut supprimer des fichiers par erreur, ce qui constitue un problème de sécurité important. Les premiers rapports de suppression de fichiers sont apparus peu après le lancement du modèle, avec des utilisateurs tels que Matt Shumer et Bruno Lemos qui ont signalé que GPT-5.6 avait supprimé des fichiers importants sur leurs ordinateurs. Selon Thibault Sottiaux, responsable de l'ingénierie de Codex, ces incidents sont plus susceptibles de se produire lorsque le modèle est exécuté en mode d'accès complet sans protections de sandboxing.

Explication de la faille de sécurité
La faille de sécurité est due au fait que le modèle tente de contourner la variable d'environnement $HOME pour définir un répertoire temporaire, ce qui peut entraîner la suppression de fichiers importants. Cette faille a été anticipée lors des tests internes d'OpenAI, comme le montre la carte de modèle de GPT-5.6.

Mesures de sécurité
OpenAI prend des mesures pour atténuer ce risque, notamment en mettant à jour le message du développeur, en guidant les utilisateurs vers des modes de permission plus sûrs et en ajoutant des garanties de protection supplémentaires. Il est important de noter que de tels incidents sont rares et que le modèle est conçu pour être utilisé de manière sécurisée.

Conséquences et perspectives
Cette faille de sécurité souligne les risques associés à l'utilisation de modèles de langage avancés comme GPT-5.6. Il est essentiel de prendre des mesures de sécurité pour protéger les données et les systèmes contre de telles failles. OpenAI travaille pour améliorer la sécurité de ses modèles et les utilisateurs doivent être conscients des risques potentiels lors de l'utilisation de ces technologies.

---

Source : InfoWorld​