Bien que les réseaux de neurones convolutifs (CNN) soient le choix de facto pour de nombreuses applications d’apprentissage automatique, ils nécessitent une grande mémoire et des ressources de calcul qui dépassent facilement la capacité des dispositifs de systèmes embarqués tels que les nœuds de capteurs intelligents.

Le but de ce stage est donc de chercher une solution alternative à la convolution, en revisitant la méthode traditionnelle des motifs binaires locaux (LBP en anglais). Cela consiste dans un premier temps à étudier l’état de l’art des LBPs et de ses variantes et améliorations.

Il s’agira dans un second temps d’implémenter ces algorithmes dans une bibliothèque de Deep Learning (par exemple Tensorflow), afin de trouver des façons pour combiner ces techniques avec la convolution en vue de trouver le meilleur compromis matériel/algorithmique associé à la phase d’inférence du modèle. Ce travail apportera donc des résultats préliminaires permettant de quantifier le gain par rapport à des opérations classiques (i.e., LBP conçu à la main), ce dans le contexte de la conception des réseaux de neurones compacts, potentiellement binarisés.

En outre, une des perspectives de ce stage sera d’explorer plus profondément ce type d’opérations en les rendant paramétrables et en les combinant à des techniques d’apprentissage profond.  

English description

Although convolutional neural networks (CNNs) are the de-facto choice for many machine learning applications, they require significant memory and computational resources that easily exceed the capacity of embedded system devices such as smart sensor nodes.

The aim of this internship is therefore to seek an alternative solution to convolution by revisiting the traditional method of local binary patterns (LBP). This will initially involve studying the state of the art of LBPs and their variants and improvements.

The second step will be to implement these algorithms in a Deep Learning library (e.g., TensorFlow) to find ways to combine these techniques with convolution to find the best hardware/algorithmic compromise associated with the model inference phase. This work will thus provide preliminary results to quantify the gain compared to classical operations (i.e., hand-crafted LBP), in the context of designing compact, potentially binarized neural networks.

Furthermore, one of the perspectives of this internship will be to explore this type of operation more deeply by making them parameterizable and combining them with deep learning techniques.

Vous êtes en fin d’étude d’école d’ingénieur ou de Master 2, dans le domaine de l’apprentissage automatique et/ou du traitement du signal/d’image et disposez d’une première expérience dans le domaine du Deep Learning (utilisation des librairies telles que Tensorflow/PyTorch), ce stage vous permettra de mettre à profit vos connaissances théoriques et vous confronter à un problème concret de mise en œuvre pratique. Nous attendons du candidat qu’il fasse preuve de capacités d’écoute, de pugnacité et de créativité.

Vous avez encore un doute ? Nous vous proposons :

• Un cadre de recherche unique, dédié à des projets ambitieux au service des grands enjeux sociétaux,
• Un environnement de travail high-tech et des équipements de recherche à la pointe de l’innovation,
• Un campus au cœur de la métropole, facilement accessible en mobilité douce,
• Une participation aux frais de restauration, de transport et de logement (sous conditions),
• Des encadrants bienveillants, passionnés et ayant l’envie de transmettre,
• Une politique diversité et inclusion,
• De réelles opportunités de carrière à l’issue de votre stage.

Tous nos postes sont ouverts aux personnes en situation de Handicap. La Mission Handicap du CEA vous accompagne et met en place les aménagements nécessaires à vos besoins spécifiques