Perturbation utile : comment la dynamique non linéaire peut augmenter les séries chronologiques des capteurs de bord


Les ingénieurs de l’Institut de technologie de Tokyo (Tokyo Tech) ont démontré une approche informatique simple pour soutenir les performances de classification des réseaux de neurones fonctionnant sur des séries temporelles de capteurs. La technique proposée consiste à alimenter le signal enregistré en tant que forçage externe dans un système dynamique non linéaire élémentaire, et à fournir ses réponses temporelles à cette perturbation au réseau de neurones parallèlement aux données d’origine.

Dans le monde qui nous entoure, une prolifération de capteurs est en cours, promettant de soutenir l’efficacité et la durabilité de pratiquement tous les aspects de l’activité humaine. L’un des défis auxquels les ingénieurs impliqués dans la fourniture de l’internet des objets à la société doivent faire face est de savoir comment gérer le flot de données résultant de ces capteurs. En particulier, il est nécessaire de réduire au maximum les données à la périphérie, à proximité des capteurs eux-mêmes, car le transfert de toutes les données vers le cloud aurait une empreinte technique, économique et environnementale inacceptable. En réponse à cela, de nombreuses recherches sont menées dans le monde entier sur des classificateurs de petite taille et très efficaces, adaptés à la détection de comportements et de situations d’intérêt particuliers tout en fonctionnant avec des ressources de calcul limitées. Un exemple de scénario d’application est la surveillance en temps réel du comportement du bétail, dans le but de détecter des changements subtils qui indiquent une maladie prodromique.

« Une approche émergente pour soutenir le développement de classificateurs de séries chronologiques adaptés à l’intelligence artificielle de pointe est celle de l’augmentation des données. Fondamentalement, il s’agit de trouver des moyens créatifs et innovants de générer des données supplémentaires pour aider à obtenir les meilleures performances des réseaux de neurones qui nécessairement doivent être assez petits pour répondre aux exigences de puissance et de taille. Si la théorie des classificateurs est bien établie, on peut dire que l’augmentation des données en est encore à ses balbutiements pour les séries temporelles. Dans notre laboratoire, par exemple, nous avons travaillé sur une variété de techniques basées sur des considérations empiriques ainsi que sur des principes mathématiques », explique Mme Chao Li, doctorante à l’unité Nano Sensing où l’étude a été menée, et co-auteure principale de l’étude.

Habituellement, l’augmentation des données est effectuée juste avant ou pendant la formation du classifieur et s’exécute sur de puissants postes de travail ou des ordinateurs en nuage. Le résultat est que la quantité de données disponibles pour former un classificateur est étendue le long de la dimension temporelle, comme ce serait le cas si des enregistrements plus longs avaient été mis à disposition. Ceci est important car les données de haute qualité du type nécessaire à la formation des classificateurs sont précieuses et coûteuses à préparer. Cependant, ce n’est pas la seule forme d’augmentation de données possible. « Nous avons eu l’idée d’étendre les données le long de l’autre dimension, c’est-à-dire le nombre de séries temporelles, c’est-à-dire le nombre de dimensions d’entrée. Habituellement, les applications de pointe peuvent fonctionner sur une, ou au plus quelques séries temporelles de capteurs. Une possibilité consiste à effectuer des opérations de calcul pour en générer davantage, qui tentent de rendre le plus possible l’information initiale disponible au classifieur sous une forme appropriée pour qu’il l’apprenne efficacement. Le calcul disruptif consiste à simuler un système dynamique, doté de sa propre activité intrinsèque, et d’essayer de le perturber en le forçant de l’extérieur avec un signal enregistré depuis l’environnement », explique le Dr Ludovico Minati, auteur principal de l’étude.

Partant d’un concept précédemment développé et breveté dans l’unité Biointerfaces pour améliorer les performances des systèmes d’interface cerveau, les chercheurs ont soigneusement examiné de nombreux aspects pratiques pour le réaliser. En ciblant la classification des comportements de base des bovins à l’aide d’un accéléromètre monté sur collier, ils ont développé des moyens de filtrer et de prétraiter les signaux cinématiques et de les injecter afin que le système dynamique simulé les accepte et y réponde sans diverger. Ensuite, ils ont exploré comment extraire la série temporelle la plus pertinente de son activité, afin de la fournir soit à un extracteur de caractéristiques prédéterminé et à un perceptron multicouche, soit à un réseau de neurones convolutifs. « De nombreux systèmes de basse dimension tels que les systèmes de Rössler et de Lorenz, qui ont été étudiés pendant des décennies par des physiciens et des ingénieurs de contrôle, ont en fait un potentiel de calcul remarquable qui reste largement inexploré. Cette étude franchit une étape inhabituelle vers son déploiement dans une application concrète scénario », explique le professeur Mattia Frasca de l’Université de Catane (Italie), qui a fourni plusieurs contributions théoriques aux chercheurs de Tokyo Tech sur les comportements de ces types de systèmes et leurs implémentations en tant que circuits analogiques.

En augmentant les données grâce aux séries chronologiques supplémentaires dérivées des systèmes dynamiques, à savoir un système Rössler séparé par axe de l’accéléromètre, les chercheurs ont pu augmenter les performances de classification d’une quantité appréciable. « Bien qu’il ne s’agisse vraiment que d’une étude initiale pour proposer une idée provocatrice et que des travaux futurs substantiels soient nécessaires, nous avons également pu réaliser le système dynamique à l’aide d’un circuit matériel analogique très simple et observer encore une amélioration grâce à l’exploitation de ses réponses », ajoute Dr Ludovico Minati. « Notre approche rappelle l’informatique de réservoir, sur laquelle nous avons récemment mené des recherches en utilisant des circuits à transistors élémentaires connus sous le nom d’oscillateurs Minati-Frasca. Cependant, c’est en fait différent, car la dynamique est de basse dimension, et un seul oscillateur est utilisé à la place d’un réseau En ce sens, il peut être encore plus adapté à une mise en œuvre à faible puissance » ajoute M. Jim Bartels, également doctorant à l’unité.

Après l’entretien, l’équipe a expliqué que ce type de recherche exploratoire devra être étendu et développé sur d’autres ensembles de données et paramètres pour vérifier son applicabilité générale à des cas concrets, même si ces premiers résultats sont prometteurs. « Un point à retenir est que cette approche peut être mise en œuvre avec des ressources assez limitées, que ce soit de manière numérique ou analogique. Nos travaux antérieurs ont en fait montré des systèmes chaotiques CMOS fonctionnant avec une puissance aussi faible que 1 μW, ce qui pourrait convenir à Alors que les optimisations des technologies de procédés et des conceptions conventionnelles approchent de leurs limites, l’exploration confiante d’idées radicalement nouvelles comme celle-ci semble nécessaire pour une innovation continue », conclut le Dr Hiroyuki Ito, chef de l’unité. La méthodologie, les résultats et les considérations associées sont rapportés dans un article récent publié dans la revue Chaos, Solitons et Fractaleset tous les enregistrements expérimentaux ont été rendus librement disponibles pour que d’autres puissent les utiliser dans des travaux futurs.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

*