Constellation, le dépôt institutionnel de l'Université du Québec à Chicoutimi

Résumé

L’apprentissage fédéré (Federated Learning, FL) facilite l’entrainement collaboratif de modèles tout en conservant les données brutes localement, mais les communications et les gradients échangés restent vulnérables aux attaques d’inversion et aux menaces quantiques futures capables de compromettre l’établissement de clés classique. Cette recherche a pour but d’étudier l’intégration pratique des mécanismes cryptographiques post-quantiques dans un pipeline de FL applique à la détection d’objets en vision par ordinateur. Le mécanisme de sécurité hybride proposé combine, Kyber512 (KEM) sélectionné par le NIST) pour faire l’encapsulation des clés résistante aux attaques quantiques, Cristal-Dilitium pour l’authentification et l’intégrité des différentes mises à jour, HKDF-SHA256 pour la dérivation de clés symétriques, et AES-CBC pour le chiffrement efficace de tous les gradients et du modèle global. Il intègre également un masquage pairwise des gradients basés sur une topologie de graphe de voisins, garantissant l’annulation des masques lors de l’agrégation sécurisée FedAvg afin que le serveur n’observe jamais les gradients individuels en clair. Une évaluation empirique est réalisée dans un contexte adversarial réaliste pour mesurer la confidentialité des gradients, le surcoût induit par la sécurité, la stabilité de la convergence et les performances de détection. Les différents résultats expérimentaux montrent que l’approche réduit fortement la corrélation entre les gradients et données d’origine, et maintient une convergence stable et ils préservent des performances très proches du FL non sécurisé, tout en renforçant la sécurité à long terme face au risque (harvest-now, decrypt-later). Ce travail contribue à la conception de systèmes FL pratiques, sécuritaires et résilients aux attaquants post-quantiques, adaptés aux modèles profonds de vision par ordinateur, conformément aux standards actuels de la cryptographie post-quantique.

Federated Learning (FL) enables collaborative model training while keeping raw data local, but communications and exchanged gradients remain vulnerable to inversion attacks and future quantum threats that can break classical key establishment schemes. This research investigates the practical integration of post-quantum cryptographic mechanisms into an FL pipeline applied to object detection in computer vision. The hybrid security mechanism I proposed combines Kyber-512 (NIST-selected KEM) for quantum-resistant key encapsulation, CRYSTALS-Dilithium for authentication and integrity of different model updates, HKDFSHA256 for symmetric key derivation, and AES-CBC for efficient encryption of all gradients and the global model. In addition, pairwise gradient masking over a neighbor graph topology ensures that masks cancel out during secure FedAvg aggregation, so the server only sees the masked sum and never any individual client gradient in plaintext. Empirical evaluation is performed in a realistic adversarial setting to measure gradient privacy, security-induced overhead, convergence stability, and detection performance. Experimental results show that the approach significantly reduces gradient-data correlation, maintains stable convergence, preserves object detection performance close to non-secure FL, and strengthens long-term security against “harvest-now, decrypt-later” quantum risks. This work contributes to designing practical, deployable, quantum-resilient FL systems for deep vision models, aligned with current post-quantum cryptography standards.