Le chaos de la multilocation des GPU

LES DÉFIS DE LA PARTAGE DES RESSOURCES GPU DANS LE CLOUD
Les entreprises sont de plus en plus nombreuses à utiliser les GPU pour leurs applications d'intelligence artificielle, mais les cartes graphiques n'ont pas été conçues pour une utilisation multilocataire sécurisée. Les fournisseurs de cloud doivent donc trouver des solutions pour partager ces ressources coûteuses de manière efficace et sécurisée. Cela représente un défi important, car les GPU n'ont pas été conçus pour une utilisation multilocataire, avec des fonctionnalités de récupération rapide en cas de panne et d'isolation propre entre les charges de travail.

Les limites techniques des GPU
Les GPU ont été développés pour accélérer le rendu graphique et les calculs locaux, mais leur conception présente des limites techniques importantes en matière de commutation de contexte et d'isolation de la mémoire. Les GPU sont optimisés pour le débit, mais leur conception crée des limitations importantes en termes de sécurité et de partage des ressources.

La partition des ressources
Les fournisseurs de cloud doivent partager les ressources GPU de manière efficace et sécurisée, mais il n'existe pas de modèle opératoire largement adopté pour y parvenir. Les fournisseurs doivent choisir entre dédier une machine physique à un seul client, ce qui gaspille les ressources disponibles, ou accepter les risques de sécurité liés à la multilocation. Les solutions de partitionnement des ressources, telles que les GPU clouds, sont en cours de développement, mais il reste beaucoup à faire pour résoudre ces problèmes.

Les défis de sécurité
Les modèles de programmation des GPU reposent souvent sur l'hypothèse que le pilote a un contrôle total sur la protection de la mémoire, mais cela ne tient pas compte des risques de sécurité liés à la multilocation. Les attaques peuvent provenir de codes malveillants ou de failles de sécurité dans les pilotes. Les équipes de sécurité doivent donc être vigilantes pour protéger les données sensibles et prévenir les failles de sécurité.

En conclusion, les défis de la multilocation des GPU sont importants, mais les entreprises et les fournisseurs de cloud travaillent pour développer des solutions pour partager ces ressources de manière efficace et sécurisée. Les technologies de conteneurisation et d'orchestration, telles que Kubernetes, pourraient jouer un rôle important dans la résolution de ces problèmes.

---

Source : Enterprises know AI-generated code is vulnerable; they're shipping it anyway | InfoWorld​