Les vulnérabilités des plateformes AI-as-a-service
Les entreprises spécialisées dans la cybersécurité telles que Wiz.io sont de plus en plus préoccupées par les menaces qui pèsent sur les plateformes AI-as-a-service comme Hugging Face. En effet, ces dernières seraient vulnérables à des risques critiques permettant aux cybercriminels d’escalader leurs privilèges, d’accéder à plusieurs locataires et même de prendre le contrôle des systèmes de déploiement continu.
Le groupe de recherche de Wiz a récemment réussi à compromettre un service exécutant des modèles personnalisés en téléchargeant un modèle malveillant et en utilisant des techniques d’évasion de conteneur. Cela leur a permis d’accéder à d’autres modèles de clients stockés sur la plate-forme de Hugging Face.
L’insécurité du format Pickle de Python
Il est de notoriété publique que le format Pickle de Python est sujet à des problèmes de sécurité, car il permet l’exécution de code distant lors de la désérialisation de données non fiables. Bien que Hugging Face évalue les fichiers Pickle qui sont téléchargés sur sa plateforme et mette en avant ceux qu’elle juge dangereux, cela ne suffit pas toujours à assurer une protection totale.
En effet, les chercheurs de Wiz ont réussi à interagir avec un modèle compromis en utilisant la fonction Inference API de Hugging Face. Ils ont obtenu une connexion inversée et ont découvert qu’il était relativement simple de créer un modèle PyTorch capable d’exécuter du code arbitraire. En téléchargeant ce modèle sur la plateforme de Hugging Face, ils ont pu exécuter du code à l’intérieur de l’API d’inférence.
Deux risques critiques identifiés
Les experts en sécurité ont identifié deux risques majeurs liés aux vulnérabilités des plateformes AI-as-a-service. Le premier est le risque de prise de contrôle de l’infrastructure d’inférence partagée. Les modèles malveillants peuvent ainsi être exécutés sur des infrastructures non sécurisées, mettant potentiellement en danger toute la chaîne d’approvisionnement de l’IA.
Le second risque concerne les attaques affectant l’ensemble des versions de Windows. Les chercheurs de la société de sécurité en point d’extrémité enSilo ont découvert une nouvelle méthode permettant aux cybercriminels de pénétrer dans les systèmes Windows à partir d’une faille de sécurité présente dans toutes les versions du système d’exploitation.
Cette brèche a été exploitée lorsqu’un employé de Reddit a reçu un e-mail de phishing contenant un lien vers un site Web malveillant. L’attaque illustre l’importance de sensibiliser les utilisateurs aux risques associés à la réception et à l’ouverture d’e-mails non sollicités ou provenant de sources inconnues.
Critical Bugs Put Hugging Face AI Platform in a 'Pickle' Dark Reading https://t.co/VHoEpver7j #SecurityInsights #CyberSecurity #InfoSec
— iSecurity (@iSecurity) April 8, 2024
Les solutions pour renforcer la sécurité
Afin de surmonter ces défis et sécuriser efficacement les plateformes AI-as-a-service, Wiz.io et Hugging Face travaillent conjointement à l’élaboration de solutions adaptées. Il est essentiel de mettre en place des mesures préventives pour détecter et neutraliser rapidement les menaces avant qu’elles ne provoquent des dommages irréparables.
Cela passe notamment par une amélioration des protocoles de sécurité appliqués aux infrastructures d’inférence partagée, ainsi que par une formation continue des utilisateurs finaux pour éviter les erreurs humaines susceptibles de mettre en péril l’intégrité des systèmes informatiques.
Un travail collaboratif entre experts
Le partenariat entre Wiz.io et Hugging Face illustre bien la nécessité de créer des synergies entre les experts en cybersécurité et ceux du domaine de l’intelligence artificielle. Seule une approche collaborative permettra de faire face aux défis posés par les risques liés aux vulnérabilités présentes dans les plateformes AI-as-a-service.
La découverte de failles de sécurité majeures au sein des plateformes AI-as-a-service telles que Hugging Face soulève des questions quant à la pérennité et la sûreté de ce secteur en plein essor. Les entreprises doivent s’unir pour développer des solutions efficaces et prévenir les menaces qui pèsent sur la chaîne d’approvisionnement de l’intelligence artificielle. La collaboration entre Wiz.io et Hugging Face montre que ce travail commun est non seulement possible, mais aussi indispensable pour construire un avenir sécurisé et prospère dans le domaine de l’IA.
