Cours Hiver 2018 Séance 1: Marco Pedersoli Introduction au … · Communication Diapositives +...

Marco Pedersoli Cours 1 -

Apprentissage MachineSéance 1:

Introduction au cours ETS

dep. de génie de la production automatiséMarco Pedersoli

Cours Hiver 20181

Marco Pedersoli Cours 1 - 2

Organisation du cours:● Présentation du prof● Plan de cours● Project

Introduction à l’apprentissage machine● Contexte historique● Applications de l’apprentissage machine

Plan de la séance:

Biographie: Marco Pedersoli●

●●●

Axes de recherche● PhD, Autonomous University of

Barcelona & Computer Vision CenterEfficient Object Detection with Deformable Models

● Post-Doc, KU Leuven with Tinne Tuytelaars & Luc Van GoolDetection, Deformation, Deep Learning

● Post-Doc, INRIA-Grenoble with Jakob Verbeek & Cordelia SchmidRecurrent Nets and Attention Models

Efficient Learning

Efficient Data Data

Exploration

Apprentissage Efficace● DeepProposal: Hunting Objects by Cascading

Deep Convolutional Layers, A. Ghodrati, A. Diba, M. Pedersoli, T. Tuytelaars, L. Van Gool, in ICCV 2015.

● A scalable 3D HOG model for fast object detection and viewpoint estimation, M. Pedersoli, T. Tuytelaars, in 3DV 2014.

● Toward Real-Time Pedestrian Detection Based on a Deformable Template Model, M. Pedersoli, J. Gonzàlez, X. Hu, X. Roca, in IEEE IITS 2013.

● Hierarchical Multiresolution Models for fast Object Detection, M. Pedersoli, Phd Thesis 2012.

● A Coarse-to-fine approach for fast deformable object detection, M. Pedersoli, A. Vedaldi, J. Gonzàlez, in CVPR 2011.

● Recursive Coarse-to-Fine Localization for fast Object Detection, M. Pedersoli, J. Gonzàlez, A. D. Bagdanov, J. J. Villanueva, in ECCV 2010.

Utilisation efficace des données● Learning where to position parts in 3D, M. Pedersoli, T,

Tuytelaars, in ICCV 2015.● Weakly Supervised Object Detection with Convex

Clustering, H. Bilen, M. Pedersoli, T. Tuytelaars, in CVPR 2015.

● Is 2D information enough for viewpoint estimation?, A. Ghodrati, M. Pedersoli, T. Tuytelaars, in BMVC 2014.

● Weakly Supervised Object Detection with Posterior Regularization, H. Bilen, M. Pedersoli, T. Tuytelaars, in BMVC 2014.

● Using a deformation field model for localizing faces and facial points under weak supervision, M. Pedersoli, R. Timofte, T. Tuytelaars, L. Van Gool in CVPR 2014.

● An Elastic Deformation Field Model for Object Detection and Tracking, M. Pedersoli, R. Timofte, T. Tuytelaars, L. Van Gool, IJCV 2014.

● Object Classification with Adaptable Regions, H. Bilen, M. Pedersoli, V. Namboodiri, T. Tuytelaars, L. Van Gool, in CVPR 2014.

Deformable part model

Deformation field model

Exploration des données● Combining where and what in change detection for

unsupervised foreground learning in surveillance, I. Huerta, M. Pedersoli, J. Gonzàlez, A. Sanfeliu, in Pattern Recognition 2015.

● Areas of attention for Image captioning, M. Pedersoli, T. Lucas, J. Verbeek, C. Schmid, ICCV 2017.

Membres et expertises− Ben Ayed, Ismail: Computer Vision, Machine Learning, Pattern Recognition, Combinatorial

Optimization, Convex Optimization, Medical Image Analysis, Information Theory− Desrosiers, Christian: Data Mining; Medical Imaging; Collaborative Recommendation Systems;

Network Analysis; Business Intelligence; Combinatorial Optimization− Granger, Eric: Adaptive Pattern Recognition; Multi-Classifier Systems; Computational

Intelligence; Face Recognition; Video Surveillance; Biometrics− Koerich, Alessandro: Fine-Grained Classification; Computer Vision; Biometrics; Machine

Learning; Musical Information Retrieval.− Sabourin, Robert: Document et Signature Analysis; Pattern Recognition and Learning;

Information Fusion; Evolutionary Algorithms; Intelligent Bio-Watermarking − Toews, Matthew: Medical Image Analysis; Computer Vision; Machine Learning− Wong, Tony: Distributed Processing; Multi-Objective Evolutionary Optimization

Exemples de projets

Gestion de écosystèmes

Analyse des récifs coralliens

Traitement automatique des chèques bancaires (vérification de signature)

Biomarqueur rapide des documents numérisés

Analyse multi-spectrale pour la télédétection des catastrophes naturelles

Analyse d’images medicales Détection de visagesin the “wild”

– PUCPR, UFPR, UFAM, UFT – Brésil– Télécom ParisTech, Eurecom et CNES – France– Center for Machine Vision Research – Finland – University of Stellenbosch – South Africa– Laboratoire de systèmes complexes – U de Montréal– CENPARMI – Concordia U– GREMM - Recherche sur les mammifères marins– Agriculture and Agri-Food Canada and Parcs Canada– Defence R&D Canada – Valcartier and Ottawa– Canada Border Services Agency– Genetec Inc., VIASAT GeoTechnologies Inc.– BancTec Inc., NVS Learning Inc. Face4 Systems Inc.

Partenaires académiques et industrielsPartenaires académiques et industriels

Marco Pedersoli Cours 1 -14

Plan de la séance:

Prérequis● Algèbre linéaire + Calcul

○ Vecteurs et matrices et leurs dérivés

● Probabilités et statistiques● Programmation

○ Python, Matlab○ Programmation vectorielle: Matlab or Numpy○ Biblothèques: Pytorch, Tensorflow, Keras, etc..

Communication● Diapositives + Articles + Travaux:

○ Moodle: https://ena.etsmtl.ca/

● Questions:○ marco.pedersoli@etsmtl.ca

Organisation du cours● Cours:

○ 13 séances de 3 heures chacune○ pas d’examens○ pas de laboratoire○ projet:

■ présentations orales■ remises

Organisation du Cours● S1: Introduction● S2: Méthodes

d’apprentissage● S3: Réseaux de neurones● S4: Propositions de projet● S5: Entraînement I● S6: Entraînement II● S7: Réseaux convolutifs

● S8: Réseaux récurrents● S9: Détection et segmentation● S10: Réduction de la

complexité● S11: Modélisation générative● S12: App. par renforcement● S13: Présentation des projets● (S14: Présentation des projets)

Organisation du Cours● S2: Méthodes d’apprentissage

○ L’apprentissage machine○ Types d’apprentissage○ Types de supervision○ Composants de l’apprentissage○ Fonction de coût et Optimisation○ Validation et Test○ Mesures de performance

Entraînement

Validation

Sélection du Modèle

Evaluation

Paramètres

Paramètres et hyper-paramètres

Organisation du Cours● S3: Réseaux de neurones

○ Architecture d’un neuron ○ Réseaux multicouches○ Rétropropagation

Organisation du Cours● S4: Propositions de projet

○ Développement, amélioration ou évaluation d’une ou plusieures méthodes d’apprentissage machine

○ Projet ouvert: à vous de proposer● soit sur votre sujet de recherche ● soit sur un autre sujet

Organisation du Cours● S5: Entraînement I

○ Gradient et autres méthodes○ Coefficient d’apprentissage○ Gradient Stochastique○ Momentum○ Algorithmes plus sophistiqués

Organisation du Cours● S6: Entraînement II

○ Typologies de réseaux○ Régularisation○ Normalisation du lot○ Augmentation des données

Organisation du Cours● S7: Réseaux Convolutifs

○ Motivation○ Convolution○ Pooling○ Architectures

Organisation du Cours● S8: Réseaux Récurrents

○ Motivation○ Réseau récurrent basique○ Problème de disparition du gradient○ LSTM et autres

Organisation du Cours● S9: Détection et Segmentation

○ La famille R-CNN■ slow R-CNN■ fast R-CNN■ faster R-CNN

○ Modèles de segmentation d’images

Organisation du Cours● S10: Réduction de la complexité

○ Quantification○ Réduction de paramètres○ Régularisation (Sparseness inducing)

Organisation du Cours● S11: Modélisation Générative

○ Auto-encodeurs○ Pixel RNN et CNN○ Réseaux adversaires génératifs

Organisation du Cours● S12: Apprentissage par renforcement

○ Introduction○ Programmation dynamique○ Différence temporelle○ Exemples

Organisation du Cours● S13: Présentation des projets

○ Motivation○ Bibliographie○ Méthode○ Expériences

Organisation du cours● Bibliographie:

○ I. Goodfellow, Y. Bengio, A. Courville. Deep Learning, MIT Press, http://www.deeplearningbook.org.

○ M. Nielsen. Neural Networks and Deep Learning http://neuralnetworksanddeeplearning.com/index.html

○ C. M. Bishop. Pattern Recognition and Machine Learning, Springer.○ S. Haykin. (2009). Neural Networks and Learning Machines, 3 e éd.,

Pearson Education.○ R. S. Sutton, A. G. Barto. Reinforcement Learning: An Introduction

Plan de la séance:

Organisation du cours● Projet:

○ Développement, amélioration ou évaluation d’une ou plusieures méthodes d’apprentissage machine

○ Projet ouvert: à vous de proposer■ soit sur votre sujet de recherche ■ soit sur un autre sujet

Organisation du cours● Exemple du projet:

○ Étude et évaluation des méthodes pour améliorer la performance des réseaux convolutifs (CNN)■ Motivation: CNN constituent l'état de l’art dans la reconnaissance

visuelle!■ Focus: performance de classification, pas coût computationnel■ Bibliographie: ResNet, DenseNet, CNN déformables, etc.■ Analyse: avantages et inconvénients de chaque méthode■ Expériences: base de données: CIFAR10, mesure de performance,

résultats, comparaison avec l’état de l’art, discussion

Organisation du cours● Évaluation du projet:

○ Présentation (~3 mins): Proposition du projet (S4) [10%]○ À remettre (~3 pages): Proposition du projet (S5) [15%] ○ À remettre(~7 pages): Synthèse de la littérature (S8)

[30%]○ Présentation (~7 mins): Projet complet (S13) [15%]○ À remettre (~10 pages): Étude expérimentale (S14) [30%]

Plan de la séance:

Contexte historique● ~1950: Début de l’intelligence artificielle

○ Perceptron de McCulloch et Pitts○ Apprentissage de Rosenblatt○ Théorie du calcul de Turing○ Théorie de l’information de Shannon○ Minsky et le problème de l’XOR○ Jeu de dames artificiel de Samuel

Contexte historique:Neurone Artificiel: Perceptron

Contexte historique:● Apprentissage du Perceptron

○ Initialisation des poids au hasard○ Pour chaque échantillon:

■ Estimer la sortie y:● Si y n’est pas correcte:

○ Changer le poids pourcorriger l’erreur

○ Répéter jusqu’à plus d’erreurs

Contexte historique:● Minsky et le problème du XOR

○ Perceptron ne peut pas résoudre un XOR!

Contexte Historique:● Réseau de Neurones Multicouche (MPL)

○ Plusieurs neurones■ chaque neurone représente une fonction différente

○ Plusieurs couches■ les sorties d’une couche sont les entrées de la suivante

Contexte historique:● ~1970: 1er Hiver de l’intelligence artificielle

○ Pessimisme de Minsky■ Si on ne peut pas résoudre l’XOR avec le perceptron, comment

peut-on penser à résoudre des problèmes plus complexes?■ Réseau multicouches peuvent résoudre l’XOR, mais on ne sait pas

comment faire l’apprentissage!

○ Promesses trop optimistes, non tenues■ Ex: Newell et Simon: un ordinateur vaincra aux échecs avant 70s

○ Coupure des investissements en IA○ Par contre: Rétro-propagation!!!

Contexte historique:● Rétro-propagation:

○ Algorithme pour l’apprentissage d’un réseau multicouche (utilisé avec tous genres de fonctions)+ Efficace: O(N), N nombre d’exemples+ Générique: basé sur le descente du gradient, on l’utilise encore aujourd’hui avec tout type de réseau- Local: pas de garantie que la solution trouvée soit optimale

Contexte historique:● ~1990: Retour de l’intelligence artificielle

○ Réseau Récurrent par Hochreiter et Schmidhuber■ Représentation de séquences■ LSTM (long-short term memory)

○ Deep Blue bat Kasparov aux échecs○ Reconnaissance automatique de caractères par

LeCun et Button■ basée sur un réseau de neurones convolutif

Contexte historique:● ~2000: 2e Hiver de l’intelligence artificielle

○ Pas de justification théorique des propriétés des réseaux de neurones

○ SVM séparateurs à vaste marge et méthodes à noyaux ■ performance comparable mais plus simples■ moins de hyper-paramètres à ajuster■ démonstration de généralisation

Contexte Historique:● ~2010: Début de l’apprentissage profond

○ 2006: Méthodes pour exploiter les réseaux de plus de 2-3 couches■ Deep Bolzman Machines de Hinton■ Pré-entraînement non supervisé■ Apprentissage par couche

○ 2012: Apprentissage profond

Contexte historique:● Pré-entraînement non supervisé

○ Réseau Multicouche entraîné par Rétro-propagation convergeant à un minimum local.

○ Initialisation des poids avec des Auto-encodeurs pour la reconstruction des données

○ Entraînement par couche

Contexte historique:Entraînement des Auto-encodeurs par couche

48Source: www.frontiersin.org

Contexte historique:● Apprentissage profond:

○ Réseau convolutif amélioré■ ReLu, Augmentation des données, Dropout

○ Capacité de calcul■ GPUs

○ Base de données■ ImageNet

Contexte historique:● ImageNet:

○ Images pour chaque catégorie de WordNet

○ 100k de classes○ 16M d’images

● ImageNet Challenge:○ 1,000 Catégories○ 1,000,000 d’images

50Source: qz.com

performance humaine

Contexte historique:AlexNet

51Source: sqlml.azurewebsites.net

Contexte historique:AlexNet

52Source: www.sushiscience.worldpresse.com

Contexte Historique:● Aujourd’hui: Apprentissage profond partout

○ Reconnaître des objets ou des actions en images (Vision Artificielle)

○ Comprendre la langue parlée et générer du texte en langage naturel (Analyse du discours et Traitement du Langage Naturel)

○ Gérer des agents ou des robots dans un environnement inconnu (Robotique)

Plan de la séance:

Vision Artificielle● Détection d’objets en images et vidéos● Segmentation d’objets● Estimation de la pose/ du point de vue● Reconstruction 3D● Informatique affective● Description d’images

Vision Artificielle

56Source: NVIDIA

Vision Artificielle

VisionArtificielle

Détection d’objets en temps réel

VisionArtificielle

Estimation de la pose humaine en temps réel

VisionArtificielle

Description automatique d’images et de vidéos

Vision Artificielle:

Vision Artificielle: défis● Très haute dimensionnalité

○ couleur^pixels, ex. 256^(256x256)

● Variabilité de conditions:○ Éclairage, perspective

● Visibilité Partielle:○ du monde 3D à image 2D, occlusions

● Classification Sémantique○ Objets similaires mais dans des classes différentes

Traitement du Langage Naturel● Compréhension du langage humain● Traduction Automatique● Génération Automatique de documents● Aide aux usagers● Chatbots

Traitement du Langage Naturel

Traitement du Langage NaturelTraduction automatique

DeepL65

Traitement du Langage NaturelChatbots et aide en ligne

Traitement du Langage Naturel: Défis● Contexte:

○ Mon patron m’utilise / J’utilise un patron (couture)

● Dépendances/Références à long terme○ Une personne … elle m’a dit … je lui ai parlé

● Langage inventé par l’homme● Test de Turing

Robotique● Localisation et Construction d’une carte

(SLAM)● Contrôle de véhicules autonomes● Vol de drones● Contrôle de robots humanoïdes

RobotiqueLocalisation et Construction d’une carte (SLAM)

RobotiqueContrôle de véhicules autonomes

RobotiqueContrôle de robots humanoïdes

Robotique: défis● Environnement non-contrôlé

○ facteurs non prédictibles○ pas d’exemples (simulations)

● Environnement partiellement observable○ on voit seulement une petite partie de l'état○ mémoire pour utiliser hypothèses markoviennes

● Prise de décision non différentiable!

et Aussi...● Changer le style d’une image● Génération automatique d’images● Apprendre à jouer jeux vidéo● Apprendre à jouer à GO

Deep Dreams

Transference du style

75Source: genekogan.com

Génération d’images● À partir

d’images réelles de célébrités

Jouer à jeux vidéo

Alpha GO!● Une

machine a Battu le champion du monde de GO!

Prochain cours:● L’apprentissage machine● Types d’apprentissage● Types de supervision● Composants de l’apprentissage● Mesures de performance

Cours Hiver 2018 Séance 1: Marco Pedersoli Introduction au … · Communication Diapositives +...

Documents

davide pedersoli - Farniente Pêche · armes de la 8e catégorie catalogue général français de toute la production pedersoli 10 1850-1854 116 davide pedersoli Modèle référence

VieiraLopes / Ocram Marco Lopes - APIH

Marco Polo

Marco y Gestion

Smau Roma 2010 Marco Alaimo

Fr mai 2015 marco 11

5e Séquence 2 À la découverte de l’Orient avec Marco Polo...JANVIER 2013 NRP COLLÈGE 31 À la découverte de l’Orient avec Marco Polo 5e Séquence 2 Support • Marco Polo,

Victor Songmene, Ph.D. - etsmtl.ca

Notice d'utilisation complémentaire Marco Polo / Marco ... · Marco Polo / Marco Polo ACTIVITY Notice d'utilisation complémentaire Nur für internen Gebrauch / For internal use

Francesco Testini Marco Legato - Matagot

Le voyage de Marco Poloekladata.com/JRV7OgYNmQ3ef1bAfweImgGI8OE.pdfLe voyage de Marco Polo De Venise à Pékin En 1271, Marco Polo a 17 ans. Après un 1er voyage en Orient, son père

ONCOLOGIE++5 - etsmtl.ca · 2014-02-05 · GTS503'('HIVER'2014' ' '|'COURS'5':'ANESTHÉSIE'ET'ONCOLOGIE' INTRODUCTION& Dans'le'cadre'du'cours'5,'nous'traiterons'de'l’oncologie,'qui'est'une'méthode'de

Marco Stroppa Ritratti Senza Volto

Caroline Widmann © Marco Borggrave

De Marco Polo Aux Chinoiseries

Francesco Testini Marco Legato - 1j1ju.com

Alias Marco-Polo

Godinez marco

davide pedersoli - LES FRANCS-TAUPINS DU POITOUfrancstaupinspoitou.e-monsite.com/medias/files/tarif-sidam... · 198 I ArMES dE lA 8E CAtégorIE - CAtAlogUE géNérAl frANçAIS dE

Présentation Marco