L’un des plus grands dangers de l’IA est passé sous silence

LA FAILLE CACHÉE DE L'INTELLIGENCE ARTIFICIELLE
L'intelligence artificielle (IA) est de plus en plus utilisée dans notre vie quotidienne, mais un danger majeur est passé sous silence. La startup française Skyld a découvert que les filtres de modération en temps réel utilisés pour sécuriser l'IA sont fragiles et peuvent être contournés avec une quarantaine de lignes de code. Cela met en lumière la fragilité des modèles actuels et l'émergence d'une dangereuse "dette cyber" mondiale.

La fragilité des modèles actuels
Les modèles d'IA sont souvent protégés par des techniques de cybersécurité classiques qui ne prennent pas en compte les spécificités de l'IA. Cela signifie que les attaquants peuvent facilement extraire les modèles d'IA et les manipuler pour les forcer à se tromper. Les chercheurs de Skyld ont prouvé cela en neutralisant le filtre de sécurité de Google Messages et en faisant passer une photo de coucher de soleil pour une image explicite.

La solution de Skyld
La startup Skyld a développé une approche purement cryptographique pour sécuriser les modèles d'IA. Elle modifie la structure numérique de l'outil pour la rendre totalement illisible de l'extérieur. Cela signifie que même si un attaquant accède à la mémoire de l'appareil ou du serveur, il n'obtiendra que des données inexploitables. La technologie de Skyld est un véritable bouclier pour les systèmes d'IA.

La "dette cyber" oubliée
La sécurité de l'IA est souvent minimisée dans la course aux profits et aux levées de fonds. Les géants américains font tout pour occulter le problème afin de rassurer les marchés financiers. Cependant, la "dette cyber" qui se crée est un coût important qui devra être payé tôt ou tard. La startup Skyld rappelle que la souveraineté technologique européenne ne se jouera pas uniquement sur la création de modèles concurrents, mais aussi sur notre capacité à blinder et sécuriser l'infrastructure mondiale.

La sécurité de l'IA est un enjeu majeur qui doit être pris en compte dès la conception des produits. La technologie de Skyld est une étape importante pour sécuriser les modèles d'IA et prévenir les attaques. Il est temps de prendre conscience de la "dette cyber" qui se crée et de prendre des mesures pour la prévenir. Vous pouvez en savoir plus sur la sécurité de l'IA en consultant les ressources de Skyld.

---

Source : Intelligence Artificielle​