Constellation, le dépôt institutionnel de l'Université du Québec à Chicoutimi

Résumé

La modération automatique des contenus destinés aux enfants sur TikTok constitue un défi particulier en raison du format court des vidéos et de l’importance des dynamiques sociales. Les approches existantes, majoritairement conçues pour des plateformes comme YouTube, peinent à capturer des signaux nuisibles souvent implicites et distribués entre plusieurs modalités.

Ce travail propose SoSAFE, une approche multimodale de détection de contenus inappropriés sur TikTok, fondée sur l’enrichissement du dataset TikHarm par l’intégration des descriptions, des commentaires et des métadonnées d’engagement, en complément des signaux audiovisuels. Une architecture multimodale unifiée est introduite, combinant des encodeurs pré-entraînés et un module de fusion avancé reposant sur un espace latent commun, un mécanisme de gating par modalité, une cross-attention inter-modale parcimonieuse et une agrégation finale par BiLSTM.

Les résultats expérimentaux montrent que l’approche proposée surpasse les baselines de l’état de l’art, avec une accuracy de 87.13% et un F1-score macro de 87.14% sur TikHarm. L’étude d’ablation confirme l’apport des modalités sociales et la pertinence des choix architecturaux retenus. Ce travail met en évidence l’intérêt d’une modélisation multimodale contextualisée pour la modération automatique sur TikTok.

The automatic moderation of content intended for children on TikTok presents a particular challenge due to the short-video format and the importance of social dynamics. Existing approaches, mostly designed for platforms such as YouTube, struggle to capture harmful signals that are often implicit and distributed across multiple modalities.

This work proposes SoSAFE, a multimodal approach for detecting inappropriate content on TikTok, based on the enrichment of the TikHarm dataset through the integration of descriptions, comments, and engagement metadata, in addition to audiovisual signals. A unified multimodal architecture is introduced, combining pretrained encoders with an advanced fusion module based on a shared latent space, modality-specific gating mechanisms, sparse inter-modal cross-attention, and final aggregation through a BiLSTM.

Experimental results show that the proposed approach outperforms state-of-the-art baselines, achieving an accuracy of 87.13% and a macro F1-score of 87.14% on TikHarm. The ablation study confirms the contribution of social modalities and the relevance of the selected architectural choices. This work highlights the value of contextualized multimodal modeling for automatic content moderation on TikTok.