colorisation d’images par r eseaux de neurones r …...l’article \colorful image...

2
Stage de fin d’´ etudes : colorisation d’images par r´ eseaux de neurones r´ egularis´ es. Fabien Pierre ([email protected]) et Marie-Odile Berger ([email protected]). L’objectif de ce stage est d’impl´ ementer une m´ ethode de colorisation d’images bas´ ee-exemple utilisant les r´ eseaux de neurones et une approche variationnelle. Il comportera une partie bibliographique et une partie d´ eveloppement en Matlab (´ eventuellement C/C++). Localisation : Inria Nancy - Grand Est. ´ Equipe : MAGRIT, Augmentation visuelle d’environnements complexes. Dur´ ee : entre 3 et 5 mois. Mots-cl´ es : Colorisation d’image - R´ eseau de neurones - Optimisation - Matlab - Approches variationnelles. Objectif et m´ ethodologie du projet. Les r´ eseaux de neurones convolutionnels forment une classe de m´ ethodes statistiques permettant d’inf´ erer en un pixel une donn´ ee ` a partir des valeurs de l’image. La colorisation d’image consiste ` a calculer une couleur en chaque pixel d’une image en niveau de gris. Cette couleur peut ˆ etre pr´ edite, dans le cas de la colorisation bas´ ee-exemple grˆ ace ` a l’information que l’on peut tirer d’une image de r´ ef´ erence en couleur. Une telle m´ ethode a ´ et´ e propos´ ee dans l’article “Colorful image colorization” de Richard Zhang, Phillip Isola, et Alexei A Efros (Siggraph 2017). ef´ erence. Entr´ ee. esultat. Figure : Principe de colorisation bas´ ee-exemple. La r´ egularisation de l’image est n´ ecessaire pour obtenir un r´ esultat coh´ erent et r´ ealiste. Une m´ ethode variation- nelle permettant cela a ´ et´ e propos´ ee dans la litt´ erature, dans l’article “Luminance-chrominance model for image colorization” de Fabien Pierre, Jean-Fran¸cois Aujol, Aur´ elie Bugeau, Nicolas Papadakis, et Vinh-Thong Ta. Figure : Structure d’un r´ eseau de neurones convolutionnel. Le but de ce stage sera d’utiliser un r´ eseau de neurones convolutionnel pour obtenir diff´ erents r´ esultats de colorisation qui seront ensuite fusionn´ es grˆ ace ` a une m´ ethode variationnelle adapt´ ee. On ´ etudiera ´ egalement la possibilit´ e d’utiliser les champs al´ eatoires conditionnels comme dans l’article “Learning arbitrary pairwise potentials in crfs for semantic segmentation” de M˚ ans Larsson, Anurag Arnab, Fredrik Kahl, Shuai Zheng, et Philip Torr (EMMCVPR 2017). 1

Upload: others

Post on 20-May-2020

3 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: colorisation d’images par r eseaux de neurones r …...l’article \Colorful image colorization" de Richard Zhang, Phillip Isola, et Alexei A Efros (Siggraph 2017). R ef erence

Stage de fin d’etudes :colorisation d’images par reseaux de neurones regularises.

Fabien Pierre ([email protected]) et Marie-Odile Berger ([email protected]).

L’objectif de ce stage est d’implementer une methode de colorisation d’images basee-exemple utilisant les reseauxde neurones et une approche variationnelle. Il comportera une partie bibliographique et une partie developpement enMatlab (eventuellement C/C++).

Localisation : Inria Nancy - Grand Est.Equipe : MAGRIT, Augmentation visuelle d’environnements complexes.Duree : entre 3 et 5 mois.Mots-cles : Colorisation d’image - Reseau de neurones - Optimisation - Matlab - Approches variationnelles.

Objectif et methodologie du projet.

Les reseaux de neurones convolutionnels forment une classe de methodes statistiques permettant d’inferer en unpixel une donnee a partir des valeurs de l’image. La colorisation d’image consiste a calculer une couleur en chaquepixel d’une image en niveau de gris. Cette couleur peut etre predite, dans le cas de la colorisation basee-exemplegrace a l’information que l’on peut tirer d’une image de reference en couleur. Une telle methode a ete proposee dansl’article “Colorful image colorization” de Richard Zhang, Phillip Isola, et Alexei A Efros (Siggraph 2017).

Reference. Entree. Resultat.

Figure : Principe de colorisation basee-exemple.

La regularisation de l’image est necessaire pour obtenir un resultat coherent et realiste. Une methode variation-nelle permettant cela a ete proposee dans la litterature, dans l’article “Luminance-chrominance model for imagecolorization” de Fabien Pierre, Jean-Francois Aujol, Aurelie Bugeau, Nicolas Papadakis, et Vinh-Thong Ta.

Figure : Structure d’un reseau de neurones convolutionnel.

Le but de ce stage sera d’utiliser un reseau de neurones convolutionnel pour obtenir differents resultats decolorisation qui seront ensuite fusionnes grace a une methode variationnelle adaptee. On etudiera egalement lapossibilite d’utiliser les champs aleatoires conditionnels comme dans l’article “Learning arbitrary pairwise potentialsin crfs for semantic segmentation” de Mans Larsson, Anurag Arnab, Fredrik Kahl, Shuai Zheng, et Philip Torr(EMMCVPR 2017).

1

Page 2: colorisation d’images par r eseaux de neurones r …...l’article \Colorful image colorization" de Richard Zhang, Phillip Isola, et Alexei A Efros (Siggraph 2017). R ef erence

Competences requises et acquises.

L’algorithme developpe devra etre implemente sous Matlab, avec d’eventuelles interactions en C/C++. Un ba-gage mathematiques et/ou statistiques est souhaitable et l’implementation fera intervenir des notions de traitementd’image. En cela, ce sujet correspond parfaitement a des etudiants ayant suivi un cours de traitement ou analysed’images. De plus, ce projet permettra aux etudiants de conforter leurs connaissances en optimisation numerique, entraitement d’image, et leur offrira l’occasion d’apprendre a utiliser les bibliotheques de reseau de neurones dont lesapplications sont extremement variees.

2