massimo selva sensori iperspettrali multiprisma-i.it/images/eventi/20170301_workshop_asi... ·...

62
Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione: da pansharpening a hypersharpening Workshop “Data Exploitation della missione PRISMA, precursore delle missioni iperspettrali nazionali“ Roma, Sede ASI,1 - 3 Marzo 2017

Upload: others

Post on 10-Aug-2020

3 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

Graphics Design: ©Massimo Selva

Massimo Selva Sensori iperspettral i mult i

risoluzione: da pansharpening a hypersharpening

Workshop “Data Exploitation della missione PRISMA, precursore delle missioni iperspettrali nazionali“

Roma, Sede ASI,1 - 3 Marzo 2017

Page 2: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

Hardware: INSTRUMENTS

Page 3: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

1999

IKONOSRela

tive R

esp

onse

Wavelength (nm)

Multispectral 4m

Panchromatic 1m

Page 4: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

2009

WoldView-2Wavelength (nm)

Multispectral 1.85m

Rela

tive R

esp

onse

Panchromatic 0.46 m

Page 5: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

In Progress

PRISMAWavelength (nm)

Hyperspectral 30 m

Panchromatic 5 m

Page 6: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

Software: PANSHARPENING

Page 7: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

Pan-sharpening is the process of enhancing the spatial resolution of a low resolution (LR)

multispectral/hyperspectral image, by extracting the spatial details from a single high resolution Pan

image. The spatial details are inserted into the LR image by means of a suitable injection model. The

goal is to produce an high resolution multispectral/hyperspectral image at the Pan spatial resolution.

Page 8: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

Pan-sharpening is the process of enhancing the spatial resolution of a low resolution (LR)

multispectral/hyperspectral image, by extracting the spatial details from a single high resolution Pan

image. The spatial details are inserted into the LR image by means of a suitable injection model. The

goal is to produce an high resolution multispectral/hyperspectral image at the Pan spatial resolution.

PANSHARPENING

Detail from a single spatial high resolution image (Panchromatic)

Page 9: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

High Resolution Panchromatic

Page 10: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

Low Resolution Multispectral/Hyperspectral

Page 11: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

High Resolution Multispectral/Hyperspectral

Page 12: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

Hardware: INSTRUMENTS

Page 13: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

SIM-GA

In Progress

Hyperspectral VNIR 0.5m

Hyperspectral SWIR 1.5m

Panchromatic 0.17 m

Page 14: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

Software: HYPERSHARPENING

Page 15: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

Hypersharpening is the natural evolution of pansharpening. This new paradigm is applied when a

multispectral/hyperspectral data is the source of detail. The hypersharpening methods can

choose/synthesize a different band as source of the high spatial frequencies for each

multispectral/hyperspectral band that has to be fused.

Page 16: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

Hypersharpening is the natural evolution of pansharpening. This new paradigm can be applied

when a multispectral/hyperspectral data is the source of detail. The hypersharpening methods can

choose/synthesize a different band as source of the high spatial frequencies for each

multispectral/hyperspectral band that has to be fused.

HYPERSHARPENING

Detail from a high spatial resolution multispectral/hyperspectral data

Page 17: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

HAVE A LOOK AT HYPERSHARPENING

Page 18: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

HYPERSHARPENINGPANSHARPENING

Page 19: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

The Pansharpening MRA methods employ digital spatial filters to extract high frequency

information, by the sensor MTF in the reduction step. The injected details are the differences

between Pan (P) image and the suitable its expanded LP version. The details is weighted by

global or local coefficients gk before to be added to the interpolated low spatial hs bands.

Page 20: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

HYPERSHARPENING

KEY-P

OIN

T

Page 21: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

P IS REPLACED BY X k

Page 22: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

WHAT IS Xk ?

Page 23: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

Xk is obtained by processing the high spatial hyperspectral HS (HSh h=1 … M).

Xk can be different for each band of hs.

WHAT IS Xk ?

Page 24: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

HOW IS Xk OBTAINED ?

Page 25: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

Xk can be obtained by two different approaches:

the first is called selected band and the second is called synthesized band

HOW IS Xk OBTAINED ?

Page 26: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

Each hsk band is enhanced by

using as Xk the HSh band that at

spatial resolution of hs has the

highest correlation coefficient

with hsk.

SELECTED BAND

1

Page 27: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

Each hsk band is enhanced by

using as Xk a new band that is

synthesized starting from the

hyperspectral HS.

SYNTHESIZED BAND

2

Page 28: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

At the low spatial resolution, the

following minimization is

processed:

2

Page 29: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

Xk is synthesized by using the

weights previously processed:

2

Page 30: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

Indeed, in place of HS can be

used a new hyperspectral

sequence that is derived from HS

but with less bands than HS

2

Page 31: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

HYPERSHARPENING

APPLIED TO

SIM-GA DATA

Page 32: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

Original Pan is preliminary reduced to VNIR scale (0.5 m).

Page 33: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

Pan Degraded

0.5 m GSD

512 VNIR Bands

0.5 m GSD

256 SWIR Bands

1.5 m GSD

PANSHARPENING HYPERSHARPENING

Page 34: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

Pan Degraded

0.5 m GSD

512 VNIR Bands

0.5 m GSD

256 SWIR Bands

0.5 m GSD

256 SWIR Bands

1.5 m GSD

256 SWIR Bands

0.5 m GSD

PANSHARPENING HYPERSHARPENING

Page 35: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

DATAS E T

Page 36: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

SWIR

1.5 m

Page 37: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

SWIR 1.5 m

VNIR

0.5 m

Page 38: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

SWIR 1.5 m

Pan

0.5 m

Page 39: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

Experimentation at the lower scale (from 4.5 m to 1.5 m)

Page 40: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

To numerically assess the fused images

Experimentation at the lower scale (from 4.5 m to 1.5 m)

Page 41: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

H y p e r s h a r p e n i n g S e l e c t e d B a n d : W h i c h b a n d s a r e c h o s e n ?

Page 42: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

H y p e r s h a r p e n i n g S e l e c t e d B a n d : W h i c h b a n d s a r e c h o s e n ?

Only a sma l l number o f bands o f VNIR hype r spec t ra l a re chosen

Page 43: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:
Page 44: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

T h e a s s u m p t i o n s

done are consistent

Page 45: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

Expanded Image PansharpeningHypersharpening

Selected Band

Hypersharpening

Synthesized Band

SAM 1.98 2.18 1.69 1.49

ERGAS 6.74 4.95 3.71 3.32

Page 46: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

Expanded Image PansharpeningHypersharpening

Selected Band

Hypersharpening

Synthesized Band

SAM 1.98 2.18 1.69 1.49

ERGAS 6.74 4.95 3.71 3.32

Page 47: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

Expanded Image PansharpeningHypersharpening

Selected Band

Hypersharpening

Synthesized Band

SAM 1.98 2.18 1.69 1.49

ERGAS 6.74 4.95 3.71 3.32

Page 48: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

Expanded Image

SAM

MAP

Page 49: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

Pansharpening

SAM

MAP

Page 50: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

Hypersharpening

Se lec ted Band

SAM

MAP

Page 51: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

Hypersharpening

Synthesized Band

SAM

MAP

Page 52: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

Experimentation at the full scale (from 1.5 m to 0.5 m)

Page 53: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

Experimentation at the full scale (from 1.5 m to 0.5 m)

To visually assess the fused images

Page 54: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

RGB visualization

Page 55: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

Hypersharpening Selected Hypersharpening SynthesizedPansharpening

Panchromatic Selected X Synthesized X

Page 56: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

Hypersharpening Selected Hypersharpening SynthesizedPansharpening

Pansharpening is more detailed due to MTF

differences between VNIR and reduced Panchromatic.

Page 57: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

Hypersharpening Selected Hypersharpening SynthesizedPansharpening

Hy pe r s h a r p e n i n g S y n t h e s i z e d Ban d i s

sharper even though is a l i t t l e b i t no i sy

Page 58: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

CONCLUSIONS

Page 59: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

1The hypersharpening paradigm is rewarding.

The synthesized variant provides the best results

especially for the spectral quality.

Page 60: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

2The MTF characteristics of the different sensors

are critical factors in the choice between

hypersharpening and pansharpening.

Page 61: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

3Hypersharpening paradigm can be adopted to

fuse data acquired by different hyperspectral

instruments.

Page 62: Massimo Selva Sensori iperspettrali multiprisma-i.it/images/Eventi/20170301_Workshop_ASI... · Graphics Design: ©Massimo Selva Massimo Selva Sensori iperspettrali multi risoluzione:

Thank You