Deep Learning : Les fondamentaux

Concepts fondamentaux d'un réseau de neurones

• Rappel de base en mathématiques.
• Réseau neuronal : Architectures, fonctions d'activation et poids d'activation précédents...
• Formation d'un réseau de neurones : Fonctions de coût, rétropropagation, descente de gradient stochastique...
• Modélisation d'un réseau de neurones : Modélisation des données d'entrée et de sortie selon le type de problème.
• Comprendre les fonctions avec les réseaux de neurones.
• Comprendre les distributions avec les réseaux de neurones.
• Croissance des données : Comment équilibrer le jeu de données ?
• Généralisation des résultats des réseaux de neurones.
• Initialisation et régularisation du réseau de neurones : Régularisation L1/L2, normalisation batch.
• Algorithmes d'optimisation et de convergence.

Démonstration : Fonctions d'ajustement et distributions à l'aide de réseaux de neurones.

Outils usuels Machine Learning et Deep Learning

• Outils de gestion de donnée : Apache Spark, Apache Hadoop.
• Outils Machine Learning usuel : Numpy, Scipy, Sci-kit.
• Frameworks DL haut niveau : PyTorch, Keras, Lasagne.
• Frameworks DL bas niveau : Theano, Torch, Caffe, Tensorflow. Démonstration
• Applications et limites des outils présentés.

Convolutional Neural Networks (CNN)

• Principes fondamentaux et applications.
• Fonctionnement fondamental d'un CNN : couche convolutionnelle, utilisation d'un kernel, padding et stride...
• Architectures CNN ayant porté l'état de l'art en classification d'images : LeNet, VGG Networks, Network in Network...
• Utilisation d'un modèle d'attention.
• Application à un cas de figure de classification usuel (texte ou image).
• CNNs pour la génération : super-résolution, segmentation pixel à pixel.
• Principales stratégies d'augmentation des Feature Maps pour la génération d'une image.

Étude de cas : Innovations apportées par chaque architecture CNN et leurs applications plus globales (convolution 1x1 ou connexions résiduelles).

Recurrent Neural Networks (RNN)

• Présentation des RNNs : principes fondamentaux et applications.
• Caractéristiques de base des RNN : activations cachées, rétropropagation dans le temps, versions dépliées.
• Développement pour GRU (Gated Recurrent Units) et LSTM (Long Short Term Memory).
• Problèmes de convergence et gradients de fuite.
• Types d'architecture classique : prévision de séries temporelles, classification... Architecture codeur-décodeur RNN. Utilisation de modèles en vedette.
• Applications NLP : encodage de mots/caractères, traduction.
• Application NLP : prédiction de la prochaine image générée d'une séquence vidéo.

Démonstration : Différents états et évolutions apportées par les architectures Gated Recurrent Units et Long Short Term Memory.

Modèles générationnels : VAE et GAN

• Présentation des modèles générationnels Variational AutoEncoder (VAE) et Generative Adversarial Networks (GAN).
• Auto-encoder : réduction de dimensionnalité et génération limitée.
• Variational AutoEncoder : modèle générationnel et approximation de la distribution d'une donnée.
• Définition et utilisation de l'espace latent. Reparameterization trick.
• Fondamentaux du Generative Adversarial Networks. Convergence d'un GAN et difficultés rencontrées.
• Convergence améliorée : Wasserstein GAN, BeGAN. Earth Moving Distance.
• Applications de génération d'images ou de photographies, génération de texte, super résolution.

Démonstration : Applications des modèles générationnels et utilisation de l'espace latent.

Deep Reinforcement Learning

• Reinforcement Learning.
• Utilisation d'un réseau de neurones pour appréhender la fonction d'état.
• Deep Q Learning : experience replay et application au contrôle d'un jeu vidéo.
• Optimisations de la politique d'apprentissage. On-policy et offpolicy. Actor critic architecture. A3C.
• Applications : contrôle d'un jeu vidéo simple ou d'un système numérique.

Démonstration : Contrôle d'un agent dans un environnement défini par un état et des actions possibles