Constellation, le dépôt institutionnel de l'Université du Québec à Chicoutimi

Résumé

Ce travail présente une classification des vulnérabilités et leur analyse selon différentes étapes du cycle de vie des systèmes d’IA. Les méthodologies incluent des solutions telles que l’entraînement contradictoire pour améliorer la robustesse, le cryptage homomorphe pour la confidentialité des données et des techniques d’audit pour l’atténuation des biais algorithmiques. En utilisant des scénarios réalistes, ce mémoire met également en lumière des initiatives telles qu’OWASP et MITRE ATLAS, qui fournissent une certaine classification structurelle des vulnérabilités connues ainsi que des stratégies d’atténuation. Les résultats de cette recherche montrent l’applicabilité des solutions proposées dans différents scénarios. L’entraînement antagoniste, par exemple, aide à augmenter la robustesse des modèles lorsqu’ils ont été soumis à des perturbations intentionnelles, tandis que les techniques d’apprentissage fédéré sécurisées minimisent les risques d’inférence sur les ensembles de données locaux. Ce travail fourni donc aux chercheurs et aux praticiens des directives sur la façon de construire des systèmes d’IA plus sécurisés et robustes et souligne la nécessité d’augmenter la coopération entre les experts en IA, en cybersécurité et en éthique pour relever les défis posés par les menaces émergentes.