Constellation, le dépôt institutionnel de l'Université du Québec à Chicoutimi

Résumé

La population mondiale vieillit et cette tendance est prévue de se poursuivre au cours des prochaines décennies. Ce phénomène est d’autant plus marqué dans les sociétés occidentales, où les taux de naissance ont connu une forte baisse. Cela a entraîné une augmentation du nombre de personnes âgées qui sont plus fréquemment atteintes de problèmes de santé nécessitant un support dans l’accomplissement de leurs tâches quotidiennes, menaçant ainsi leur autonomie et accroissant la pression sur les services de santé et les familles.

Pour tenter d’atténuer ce problème, les maisons intelligentes sont devenues une option de plus en plus intéressante par rapport à l’intervention humaine directe. Équipées d’un ensemble de capteurs et couplées à l’apprentissage automatique, les maisons intelligentes offrent une grande variété d’options d’assistance et contribuent même à la médecine préventive. Au coeur de cette approche se trouve la reconnaissance d’activités humaines (RAH), un concept qui s’avère être un problème complexe. La RAH est nécessaire pour être en mesure de soutenir adéquatement les personnes nécessitant de l’assistance dans un habitat intelligent. Malheureusement, non seulement elle implique une très longue liste d’activités possibles, mais elle souffre également d’une forte variabilité intra-sujet et inter-sujet. Cela complique considérablement l’entraînement de modèles capables d’accomplir avec précision les tâches de RAH. Les Large Language Models (LLM) ont dominé la recherche et l’attention médiatique ces dernières années. Ce n’était donc qu’une question de temps avant qu’ils ne fassent leur entrée dans le domaine de la RAH. En effet, plusieurs études récentes font état de résultats prometteurs, particulièrement sur les jeux de données basés sur les capteurs IMU.

Motivés par ces résultats optimistes, nous avons entrepris d’appliquer les LLM au sein de notre laboratoire d’habitat intelligent et à notrepropre jeu de données avec l’objectif d’obtenir une méthodologie plus simple et une approcheplus généralisable aux tâches de RAH. Nous avons ensuite exploré diverses approches pouraméliorer les performances des LLM, telles que l’ingénierie d’invite (prompt engineering) et des techniques de prétraitement des données. Contrairement au discours dominant, nous avons constaté que l’utilisation des LLM pour la RAH est bien plus complexe et moins efficace que ce qui était suggéré initialement, même en suivant de les méthodologies publiées.

Dans ce mémoire, nous décortiquons nos tentatives infructueuses, partageons ce qui a réellement fonctionné, et nous nous demandons si toute cette puissance des LLM en vaut vraiment la peine. Spoiler : parfois, un bon vieux Random Forest remporte encore la mise.

The world population is getting older, and it is expected to continue in this direction over the next few decades. It is even more present in Western societies, where birth rates have observed a sharp decline. This phenomenon has led to an increase in elderly individuals who are more affected by health conditions requiring assistance to perform daily tasks, threatening their autonomy and placing further strain on the health services and family.

In an attempt to mitigate this, smart homes have become an increasingly interesting option over direct human intervention. Equipped with a suite of sensors and coupled with machine learning, smart homes offer a great variety of support options and even contribute to preventive medicine solutions. A core concept of this approach is Human Activity Recognition (HAR), which has shown itself to be a complex problem. HAR is necessary in order to be in a position to adequately support individuals requiring assistance in a smart home. Unfortunately, not only does it involve a very long list of activities, it also suffers from high intra-subject and inter-subject variability. This significantly complicates the training of models capable of accurately performing HAR tasks. Large Language Models (LLMs) have dominated both research and media attention in recent years; it was only a matter of time before they found their way into the domain of HAR. Indeed, several recent studies report promising results, particularly on IMU-based datasets.

Motivated by these optimistic claims, we set out to apply LLMs within our smart home laboratory and to our own smart home dataset, hoping for a simpler methodology and more generalizable approach to HAR tasks. We then investigated various approaches to increase the performance of LLMs. Contrary to the prevailing narrative, we found that using LLMs for HAR is far more complex and less effective than initially suggested, even when following published methodologies.

In this master’s thesis, we unpack our experiments, share what actually worked, and reflect on whether all that LLM power is really worth the hassle. Spoiler: sometimes a good old Random Forest still wins the day.