analisis componentes principales
TRANSCRIPT
-
8/18/2019 Analisis Componentes Principales
1/130
PROYECTO FIN DE CARRERA
ANÁLISIS DECOMPONENTES PRINCIPALES:
VERSIONES DISPERSAS YROBUSTAS AL RUIDO IMPULSIVO
Autor: Andrés Sánc!" M#n$#s
Tutor#: V#n!ss# %&'!" V!rd!(o
L!$#n!s) *+ d! A,r-. d! */0*
D!1#rt#'!nto d! T!or2# d! .# S!3#. 4 Co'un-c#c-on!s
-
8/18/2019 Analisis Componentes Principales
2/130
--
-
8/18/2019 Analisis Componentes Principales
3/130
T2tu.o: ANÁLISIS DE COMPONENTES PRINCIPALES: VERSIONES DISPERSASY E5TENSIONES CON DIFERENTES COSTES
Autor: Andrés Sánc!" M#n$#sD-r!ctor: V#n!ss# %&'!" V!rd!(o
EL TRIBUNAL
Pr!s-d!nt!:
Voc#.:
S!cr!t#r-o:
R!#.-"#do !. #cto d! d!6!ns# 4 .!ctur# d!. Pro4!cto F-n d! C#rr!r# !. d2# *+ d! A,r-. d! */0*!n L!$#nés) !n .# Escu!.# Po.-técn-c# Su1!r-or d! .# Un-7!rs-d#d C#r.os III d! M#dr-d)#cu!rd# otor$#r.! .# CALIFICACI8N d!
VOCAL
SECRETARIO PRESIDENTE
---
-
8/18/2019 Analisis Componentes Principales
4/130
-7
-
8/18/2019 Analisis Componentes Principales
5/130
AgradecimientosEn 1r-'!r .u$#r) #$r#d!c!r # '- 6#'-.-# todo !. #1o4o 4 .os án-'os 9u! '! #n d#do
dur#nt! todos !stos #3os En !s1!c-#. # '-s 1#dr!s 1or9u! $r#c-#s # !..os ! ..!$#do #st#
#9u2 4 no .o 1odr2# #,!r .o$r#do s-n !..os S-!'1r! '! #n #1o4#do -ncond-c-on#.'!nt! 4
'! #n d#do tod#s .#s 6#c-.-d#d!s 1#r# !ncontr#r '- c#'-no
A '- tutor# V#n!ss# %&'!" V!rd!(o 9u! s-!'1r! '! # #4ud#do 4 '! # 'ostr#do .#
d-r!cc-&n # s!$u-r cu#ndo sur$2#n co'1.-c#c-on!s Por .# 1#c-!nc-# 4 !. tr#,#(o -n7!rt-dos !n'- A$r#d!c!r.! .# d!d-c#c-&n 4 .os án-'os 1#r# 9u! !st! 1ro4!cto s#.-!r# #d!.#nt!
T#',-én '! $ust#r2# #$r#d!c!r # '-s co'1#3!ros d! un-7!rs-d#d ;#n s-do 'ucos .os
co'1#3!ros con .os 9u! ! co'1#rt-do c.#s!s) 1ráct-c#s 4 d!'ás t-!'1o !n .# un-7!rs-d#d
Todos 4 c#d# uno d! !..os '! #n #1ort#do #.$o 4 #n !co 'ás ..!7#d!ro !st! 7-#(! ;#
#,-do ,u!nos 4 '#.os r#tos 1!ro $r#c-#s # 7osotros #. 6-n#. s-!'1r! #,2# un# sonr-s# 9u!
'! 1!r'-t2# 7o.7!r con -.us-&n #. d2# s-$u-!nt!
A '-s #'-$os 1or s#c#r'! d! .# rut-n# 4 1!r'-t-r'! d!scon!ct#r Por r!st#r.!tr#sc!nd!nc-# # .os 1ro,.!'#s 4 #1ort#r s-!'1r! un# 7-s-&n o1t-'-st# Por !sos
!
-
8/18/2019 Analisis Componentes Principales
6/130
7-
-
8/18/2019 Analisis Componentes Principales
7/130
Resumen
E. #ná.-s-s d! co'1on!nt!s 1r-nc-1#.!s >?Pr-nc-1#. Co'1on!nt An#.4s-s@) PCA !s un
'étodo d! !
-
8/18/2019 Analisis Componentes Principales
8/130
7---
-
8/18/2019 Analisis Componentes Principales
9/130
Abstract T! Pr-nc-1#. Co'1on!nt An#.4s-s >PCA -s # non su1!r7-s!d 6!#tur! !
-
8/18/2019 Analisis Componentes Principales
10/130
-
8/18/2019 Analisis Componentes Principales
11/130
Índice general
A$r#d!c-'-!ntos 7
R!su'!n 7--
A,str#ct -<
nd-c! $!n!r#.
-
8/18/2019 Analisis Componentes Principales
12/130
#.#.# *mplementación en blo"e.................................................................................................
*J E(!'1.o s-ntét-coJK
C#12tu.o J: E
-
8/18/2019 Analisis Componentes Principales
13/130
C#12tu.o : Conc.us-on!s 4 L2n!#s Futur#s00K
0 Conc.us-on!s 00K
* L2n!#s Futur#s 0*/
C#12tu.o : Pr!su1u!sto 0**
P.#n-6-c#c-&n 0**
Pr!su1u!sto 0*J
R!6!r!nc-#s 0*
-
8/18/2019 Analisis Componentes Principales
14/130
-
8/18/2019 Analisis Componentes Principales
15/130
Índice de Figuras
F-$ur# 0: D#tos d! !ntr#d# d!. !(!'1.o s-ntét-co J
F-$ur# *: Auto7#.or!s o,t!n-dos #. #1.-c#r !. PCA so,r! !. con(unto d! d#tos s-ntét-cos d!.!(!'1.o J
F-$ur# J: Nu!7#s V#r-#,.!s o,t!n-d#s #. 1ro4!ct#r .os d#tos !n !. nu!7o !s1#c-o En ># !stánr!1r!s!nt#d#s .#s J 7#r-#,.!s 4 !n >,) c) d s! 'u!str#n .#s 7#r-#,.!s d! * !n */
F-$ur# : Auto7#.or!s d! .# '#tr-" d! co7#r-#n"# !n .# ,#s! d! d#tos S1#'B#s! K
F-$ur# +: D-6!r!nc-# cos!no !ntr! .os 7!ctor!s d! 1ro4!cc-&n o,t!n-dos con !. PCA or-$-n#. 4.#s 7!rs-on!s d!6.#ct#ndo 4 !n ,.o9u! d!. PCA It!r#t-7o
F-$ur# : V#r-#c-&n d! .# d-6!r!nc-# !ntr! PCA or-$-n#. 4 PCA -t!r#t-7o !n ,.o9u! s!$n !.n'!ro d! co'1on!nt!s 1r-nc-1#.!s ut-.-"#d#s+/
F-$ur# : T-!'1o d! !(!cuc-&n r!s1!cto #. n'!ro d! co'1on!nt!s 1r-nc-1#.!s c#.cu.#d#s +/
F-$ur# K: E7o.uc-&n d!. !rror con !. n'!ro d! co'1on!nt!s 1r-nc-1#.!s us#d#s !n .# ,#s!d! d#tos S1#'B#s! 1#r# .os #.$or-t'os PCA or-$-n#.) PCA -t!r#t-7o !n ,.o9u! 4 PCA -t!r#t-7od!6.#ct#ndo +0
F-$ur# : Func-&n -ns!ns-,.! 1#r# SVM QJ
F-$ur# 0/: V#r-#n"# d! .#s co'1on!nt!s 0 4 * s!$n .# 0 ut-.-"#d#*
F-$ur# 00: E7o.uc-&n d! .os 7#.or!s) cod-6-c#dos !n co.or!s) d! .#s 7#r-#,.!s 1#r# d-6!r!nt!s
-
8/18/2019 Analisis Componentes Principales
16/130
0 J
F-$ur# 0*: E7o.uc-&n d! .# PEV 4 !. n'!ro d! co'1on!nt!s d-s1!rs#s s!$n #u'!nt# 0 J
F-$ur# 0J: E7o.uc-&n d!. n'!ro d! c#r$#s no nu.#s !n .# SPC0 1#r# 0///) +// 4 *+/
o,s!r7#c-on!s K0
F-$ur# 0: V#.or nor'#.-"#do d! tod#s .#s c#r$#s d! .# SPC0 1#r# 0 -$u#. # /+ 4 +//o,s!r7#c-on!s K*
F-$ur# 0+: E7o.uc-&n d!. n'!ro d! c#r$#s no nu.#s !n .# SPC0 1#r# 0//) +/ 4 *+o,s!r7#c-on!s KJ
F-$ur# 0: E7o.uc-&n d!. n'!ro d! c#r$#s no nu.#s !n .# SPC* 1#r# 0///) +// 4 *+/o,s!r7#c-on!s K
F-$ur# 0: V#.or nor'#.-"#do d! tod#s .#s 7#r-#,.!s d! .# SPC* 1#r# 0 -$u#. # /+ 4 +//o,s!r7#c-on!s K
F-$ur# 0K: E7o.uc-&n d!. n'!ro d! c#r$#s no nu.#s !n .# SPC* 1#r# 0//) +/ 4 *+o,s!r7#c-on!s K+
F-$ur# 0: E7o.uc-&n d!. n'!ro d! c#r$#s no nu.#s d! SPC0 1#r# d-6!r!nt!s 0 4 *ut-.-"#ndo +/ o,s!r7#c-on!sK
F-$ur# */: V#.or Nor'#.-"#do d! .#s 7#r-#,.!s d! .# SPC0 1#r# 0 -$u#. # //) * -$u#. # /0 4+/ o,s!r7#c-on!s K
F-$ur# *0: E7o.uc-&n d!. n'!ro d! c#r$#s no nu.#s d! SPC* 1#r# d-6!r!nt!s 0 4 *ut-.-"#ndo +/ o,s!r7#c-on!sK
F-$ur# **: V#.or nor'#.-"#do 1#r# .#s 7#r-#,.!s d! SPC* 1#r# * -$u#. # /0 4 0 -$u#. # // KK
F-$ur# *J: E7o.uc-&n d! c.#s-6-c#c-&n s!$n !. n'!ro d! co'1on!nt!s 1r-nc-1#.!sut-.-"#d#s 1#r# !. SPCA) PCA 4 us#ndo n-c#'!nt! !. c.#s-6-c#dor SVM) $rá6-c#s # Error d!c.#s-6-c#c-&n 4 1orc!nt#(! d! c#r$#s no nu.#s !n .#s co'1on!nt!s 1r-nc-1#.!s s!$n !.n'!ro d! co'1on!nt!s 1r-nc-1#.!s d!. SPCA) $rá6-c#s ,/
F-$ur# *: R!1r!s!nt#c-&n d! .os d#tos s-n ru-do #s2 co'o d! .#s PC #..#d#s '!d-#nt! PCA 4PCA
F-$ur# *+: R!1r!s!nt#c-&n d! .os d#tos con ru-do 4 s-n ru-do Ad!'ás d! .#s dos 1r-'!r#sco'1on!nt!s 1r-nc-1#.!s d! PCA 4 EPCA 1#r# !. c#so con ru-do
F-$ur# *: %rá6-c#s d! .#s co'1on!nt!s 1r-nc-1#.!s d! PCA 4 PCA 1#r# d#tos con ru-do-'1u.s-7o con 1ot!nc-# -$u#. # .# d! 5*K
F-$ur# *: %rá6-c#s d! .#s co'1on!nt!s 1r-nc-1#.!s d! PCA 4 PCA 1#r# d#tos con ru-do-'1u.s-7o con 1ot!nc-# do,.! # .# d! 5*
F-$ur# *K: %rá6-c#s d! .#s co'1on!nt!s 1r-nc-1#.!s d! PCA 4 PCA 1#r# d#tos con ru-do
-
8/18/2019 Analisis Componentes Principales
17/130
-'1u.s-7o con 1ot!nc-# cuádru1.! # .# d! 5*0/0
F-$ur# *: R!1r!s!nt#c-&n d! .os d#tos s-n ru-do #s2 co'o d! .#s dos 1r-'!r#s co'1on!nt!s1r-nc-1#.!s #..#d#s '!d-#nt! PCA 4 EPCA0/
F-$ur# J/: R!1r!s!nt#c-&n d! .os d#tos con ru-do 4 s-n ru-do Ad!'ás d! .#s dos 1r-'!r#sco'1on!nt!s 1r-nc-1#.!s d! PCA 4 EPCA 1#r# !. c#so con ru-do0/+
F-$ur# J0: D!s7-#c-&n d! .# PC0 r!s1!cto d! .# so.uc-&n &1t-'# cu#ndo s! 7#r2#n C 4 conun ru-do -'1u.s-7o con .# '-s'# 1ot!nc-# 9u! .os d#tos0/
F-$ur# J*: D!s7-#c-&n d! .# PC0 r!s1!cto d! .# so.uc-&n &1t-'# cu#ndo s! 7#r2#n C 4 conun ru-do -'1u.s-7o con 1ot!nc-# do,.! 9u! .os d#tos0/
F-$ur# JJ: D!s7-#c-&n d! .# PC0 r!s1!cto d! .# so.uc-&n &1t-'# cu#ndo s! 7#r2#n C 4 conun ru-do -'1u.s-7o con 1ot!nc-# cuádru1.! 9u! .os d#tos0/
F-$ur# J: D!s7-#c-&n d! .# PC0 1#r# d-6!r!nt!s cost!s 4 7#.or!s d! s-n ru-do -'1u.s-7o 0/
F-$ur# J+: D!s7-#c-&n d! PC0 1#r# d-6!r!nt!s cost!s 4 7#.or!s d! cu#ndo s! -ntroduc!ru-do -'1u.s-7o !n 5 4 5K d! 1ot!nc-# do,.! # .os d#tos00/
F-$ur# J: D!s7-#c-&n d! PC0 1#r# d-6!r!nt!s cost!s 4 7#.or!s d! cu#ndo s! -ntroduc!ru-do -'1u.s-7o !n tod#s .#s 7#r-#,.!s000
F-$ur# J: E7o.uc-&n d!. !rror d! c.#s-6-c#c-&n s!$n !. n'!ro d! co'1on!nt!s 1r-nc-1#.!sut-.-"#d#s 1#r# !. PCA) PCA 4 us#ndo n-c#'!nt! !. c.#s-6-c#dor SVM En .# $rá6-c# # s! #us#do .# ,#s! d! d#tos #nd) !n .# , -on) !n .# c .#ndst#t 4 !n .# d #7!00+
-
8/18/2019 Analisis Componentes Principales
18/130
-
8/18/2019 Analisis Componentes Principales
19/130
Índice de tablas
T#,.# 0: Ps!udoc&d-$o d! .# -'1.!'!nt#c-&n #.$or-t'o PCA It!r#t-7o d!6.#ct#do+
T#,.# *: Ps!udoc&d-$o d! .# -'1.!'!nt#c-&n #.$or-t'o PCA It!r#t-7o !n ,.o9u!
T#,.# J: Ps!udoc&d-$o d! .# -'1.!'!nt#c-&n #.$or-t'o SPCA d!6.#ct#do+
T#,.# : Ps!udoc&d-$o d! .# -'1.!'!nt#c-&n #.$or-t'o SPCA !n ,.o9u!/
T#,.# +: Ps!udoc&d-$o d! .# -'1.!'!nt#c-&n #.$or-t'o PCA d!6.#ct#do
T#,.# : Ps!udoc&d-$o d! .# -'1.!'!nt#c-&n #.$or-t'o PCA !n ,.o9u!
T#,.# : R!su.t#dos d! .# s-'u.#c-&n 0 c#r$#s 4 7#r-#n"#
T#,.# K: T-!'1o d! con7!r$!nc-# >!n s!$undos !'1.!#do 1or !. SPCA 1#r# #..#r c#d# un#d! .#s tr!s 1r-'!r#s co'1on!nt!s 1r-nc-1#.!s d!1!nd-!ndo d! .# -n-c-#.-"#c-&n d! 7
T#,.# : So.uc-&n co'n d! .#s c#r$#s d! .#s tr!s 1r-'!r#s co'1on!nt!s 1r-nc-1#.!s d!.!(!'1.o 0 1#r# tod#s .#s -n-c-#.-"#c-on!s d! 7
T#,.# 0/: T-!'1o !'1.!#do 1or !. SPCA 1#r# #..#r c#d# un# d! .#s tr!s 1r-'!r#sco'1on!nt!s 1r-nc-1#.!s d!1!nd-!ndo d! .# -n-c-#.-"#c-&n d! 7
T#,.# 00: Co'1#r#c-&n !ntr! .#s PC d!. SPCA D!6.#ct#do 4 d!. SPCA !n ,.o9u!
T#,.# 0*: R!su.t#dos d!. PCA 4 d!. PCA 1#r# d#tos s-n ru-do S! 'u!str#n .#s c#r$#s 4 .#7#r-#n"# d! c#d# co'1on!nt!) #s2 co'o .# d!s7-#c-&n r!s1!cto d! .# d-r!cc-&n d! 'á
-
8/18/2019 Analisis Componentes Principales
20/130
T#,.# 0J: R!su.t#dos d!. PCA 4 d!. PCA 1#r# d#tos con ru-do -'1u.s-7o S! 'u!str#n .#sc#r$#s 4 .# 7#r-#n"# d! c#d# co'1on!nt!) #s2 co'o .# d!s7-#c-&n r!s1!cto d! .# d-r!cc-&n d!'á
-
8/18/2019 Analisis Componentes Principales
21/130
-
8/18/2019 Analisis Componentes Principales
22/130
Capítulo 1Introducción
1.1 Aprendia!e m"#uina $ m%todos dee&tracción de características
A1r!nd-"#(! 'á9u-n# >?M#c-n! L!#rn-n$@) ML) !s un tér'-no d-62c-. d! d!6-n-r 1or9u!
#,#rc# un !s1!ctro ,#st#nt! $r#nd! d! conc!1tos nor'#.'!nt! r!.#c-on#dos con .#
inteli4encia arti!icial Q0 En $!n!r#.) s! !nt-!nd! co'o un# 6#'-.-# d! técn-c#s 9u! 1!r'-t!n
'!(or#r # un s-st!'# !n !. t-!'1o # 1#rt-r d! .# !
-
8/18/2019 Analisis Componentes Principales
23/130
00 APRENDIAE MÁWUINA Y MXTODOS DE E5TRACCI8N DE CARACTERSTICAS
Otro c#so) !. cu#. 7# # ocu1#r !st! 1ro4!cto) #cont!c! cu#ndo #4 d!'#s-#d#s 7#r-#,.!s
d-s1on-,.!s 4 .# -n6or'#c-&n r!.!7#nt! 1#r# r!so.7!r .# t#r!# s! !ncu!ntr# !n'#sc#r#d# Esto
9u! d-6-cu.t# cons-d!r#,.!'!nt! !. d-s!3o d!. s-st!'# 4 su!.! d!t!r-or#r sus 1r!st#c-on!s
P#r# !st! c#so) !s #,-tu#. 4 r!co'!nd#,.! !'1.!#r un# !t#1# d! 1r!1roc!s#do 9u! 1!r'-t#
r!duc-r !. n'!ro d! 7#r-#,.! !'1.!#d#s) 4# s!# '!d-#nt! un# tr#ns6or'#c-&n d! .#s '-s'#s)
.o 9u! s! conoc! co'o 'étodos d! !#. t!n!r 9u! tr#,#(#r con un '!nor
n'!ro d! 7#r-#,.!s 4 un '!(or !nt!nd-'-!nto d!. 1ro,.!'# S! su!.! us#r !n $r#n '!d-d#
!n s-st!'#s 9u! r!9u-!r#n c.#s-6-c#c-&n o r!$r!s-&n co'o 1or !(!'1.o !n !. r!conoc-'-!nto
d! 1#tron!sQ
Otro 'ot-7o 1or !. cu#. !. 1r!1roc!s#do o,t-!n! t#nt# -'1ort#nc-# !n !. co'1ort#'-!nto
d! c-!rtos s-st!'#s s! !ncu!ntr# cu#ndo !stos t-!n!n 9u! #c!r 6r!nt! # con(untos d! d#tos
con un# #.t# d-'!ns-on#.-d#d Cu#ndo un con(unto d! d#tos !stá co'1u!sto 1or un# n-c#
7#r-#,.! 4 d!s1ués s! d-s1on! d! un# 7#r-#,.! #d-c-on#. !. co'1ort#'-!nto d!. s-st!'# su6r!
un# '!(or# #. t!n!r 'ás -n6or'#c-&n Esto -nd-c#r2# 9u! s! 1odr2# #u'!nt#r -n6-n-t#'!nt! !.
n'!ro d! 7#r-#,.!s con !. 6-n d! '!(or#r !. s-st!'# P!ro !n .# r!#.-d#d no ocurr! #s2 1or9u!
..!$#do # c-!rt# c#nt-d#d d! 7#r-#,.!s !. 6unc-on#'-!nto s! !'1-!"# # d!$r#d#r #. #1#r!c!n
7#r-#,.!s r!dund#nt!s con .#s #nt!r-or!s o d-r!ct#'!nt! -rr!.!7#nt!s 1#r# .# t#r!#
;o4 !n d2# !s ,#st#nt! co'n !ncontr#rs! con con(untos d! d#tos d! #.t#d-'!ns-on#.-d#d 6or'#dos 1or 'ás 0/ 7#r-#,.!s !n á',-tos co'o .# c.#s-6-c#c-&n d! $!n!s
*J
-
8/18/2019 Analisis Componentes Principales
24/130
CAPITULO 0: INTRODUCCI8N
Q+) #ná.-s-s 'u.t-!s1!ctr#. d! -'á$!n!s Q) !. r!conoc-'-!nto d! 1#tron!s Q o .os s!nsor!s
d! #.t# r!so.uc-&n d! cu#.9u-!r t-1oQ Por !st# r#"&n) c#d# 7!" son 'ás #,-tu#.!s .#s !t#1#s
d! 1r!1roc!s#do 9u! t!n$#n co'o o,(!t-7o d-s'-nu-r .#s d-'!ns-on!s d! .os d#tos d! !ntr#d#
4 .# !
-
8/18/2019 Analisis Componentes Principales
25/130
0* ANÁLISIS DE COMPONENTES PRINCIPALES
;#st# !st! 'o'!nto todos .os 'étodos d! !
-
8/18/2019 Analisis Componentes Principales
26/130
CAPTULO 0: INTRODUCCI8N
!s1#c-o 1d-'!ns-on#.) 4 9u! $!o'étr-c#'!nt! o1t-'-"#r#n .os 1ro,.!'#s #c-# .os 9u! s!
d-r-$2#n .#s co'1on!nt!s 1r-nc-1#.!s P!#rson co'!nt& r!s1!cto # .# co'1ut#c-&n) 'ás d! +/
#3os #nt!s d! .# $!n!r#.-"#c-&n d! .os ord!n#dor!s) 9u! sus 'étodos 1od2# s!r #1.-c#dos
6ác-.'!nt! # .os 1ro,.!'#s nu'ér-cos) 4 #un9u! d!c2# 9u! .os cá.cu.os !'1!"#,#n # s!r
,#st#nt! 7o.u'-nosos 1#r# cu#tro o 'ás 7#r-#,.!s) s! # d!'ostr#do 9u! !n co'1ut#c-&n son
6#ct-,.!s
Por otro .#do !n 0JJ) ;ot!..-n$ Q*/ r!#.-"& un# d!r-7#c-&n d!. á.$!,r# co'n d#ndo un
r!su.t#do c!rc#no # .# #ctu#. d!6-n-c-&n d!. PCA L# 'ot-7#c-&n d! ;ot!..-n$ !r# 1ro,#r 9u!
1u!d! #,!r un con(unto 6und#'!nt#. '!nor d! 7#r-#,.!s -nd!1!nd-!nt!s !. cuá. d!t!r'-n!
.os 7#.or!s d! .#s or-$-n#.!s p7#r-#,.!s X. !
-
8/18/2019 Analisis Componentes Principales
27/130
0* ANÁLISIS DE COMPONENTES PRINCIPALES
!. PCA !s 'ás t-.) 1or !so todo !. 1ot!nc-#. d! !st# técn-c# no 1udo s!r !
-
8/18/2019 Analisis Componentes Principales
28/130
CAPTULO 0: INTRODUCCI8N
1.( )otivación $ ob!etivos de estePro$ecto Fin de Carrera
A 1!s#r !. $r#n é
1roc!d!rá # un !stud-o 1or'!nor-"#do d! .#s 7!nt#(#s 4 d!s7!nt#(#s 9u! o6r!c!n c#d# un#
d! !..#s !n d-7!rsos !sc!n#r-os
En 1r-'!r .u$#r) !n !. s!$undo c#12tu.o s! 1roc!d!rá # .# !
-
8/18/2019 Analisis Componentes Principales
29/130
0J MOTIVACI8N Y OBETIVOS DE ESTE PROYECTO FIN DE CARRERA
En !. t!rc!r c#12tu.o s! 1r!s!nt#n .#s !
-
8/18/2019 Analisis Componentes Principales
30/130
CAPTULO 0: INTRODUCCI8N
J/
-
8/18/2019 Analisis Componentes Principales
31/130
Capítulo ' An"lisis de ComponentesPrincipales
A cont-nu#c-&n s! 7# # 1r!s!nt#r !. d!s#rro..o t!&r-co 9u! r!#.-"# !. PCA con !. o,(!t-7o6-n#. d! d-s'-nu-r .#s d-'!ns-on!s d! un con(unto d! d#tos d! !ntr#d# '!d-#nt! un#
tr#ns6or'#c-&n .-n!#. 9u! .os 1ro4!ct! so,r! .#s d-r!cc-on!s d! 'á
-
8/18/2019 Analisis Componentes Principales
32/130
CAPTULO *: ANÁLISIS DE COMPONENTES PRINCIPALES
E. PCA r!#.-"# !n 1r-'!r .u$#r un# tr#ns6or'#c-&n .-n!#. d! .os d#tos !n un nu!7o
s-st!'# d! coord!n#d#s orto$on#.!s Los 7!ctor!s d! 1ro4!cc-&n d! .os d#tos !n !. nu!7o
!s1#c-o son .#s d-r!cc-on!s d! 'á?Pr-nc-1#. Co'1on!nt@) PC En !st! nu!7o
s-st!'# d! coord!n#d#s .#s co'1on!nt!s 1r-nc-1#.!s !stán ord!n#d#s #uto'át-c#'!nt!
s!$n .# 7#r-#n"# d! .# 1ro4!cc-&n d! d#tos) !s d!c-r) s!$n .# c#nt-d#d d! -n6or'#c-&n 9u!
cont!n$#n F-n#.'!nt!) s! 1u!d! r!duc-r .# d-'!ns-&n d! .os d#tos r!su.t#nt!s !n !. nu!7o
!s1#c-o !.-'-n#ndo .#s co'1on!nt!s 1r-nc-1#.!s 9u! 1r!s!nt!n un# '!nor 7#r-#n"#) !s
d!c-r) 9u! #1ort!n '!nos -n6or'#c-&n
L# ,#s! '#t!'át-c# 9u! s! ut-.-"# 1#r# d!s#rro..#r !. PCA !s !. á.$!,r# .-n!#. V!r!'os
co'o !. PCA !stá 2nt-'#'!nt! r!.#c-on#do con .# técn-c# #.$!,r#-c# d! .# d!sco'1os-c-&n
!n 7#.or!s s-n$u.#r!s >?S-n$u.#r V#.u! D!co'1os-t-on@) SVD QJK Ad!'ás) .# co'1r!s-&n d!
co'o !stán r!.#c-on#dos !. PCA 4 .# SVD #4ud#rá #. '!(or !nt!nd-'-!nto d! .#s 1os-,.!s
#1.-c#c-on!s d! !st! 'étodo
E. PCA t-!n! dos 1ro1-!d#d!s 'u4 -'1ort#nt!s 9u! #c!n d! !st! 'étodo d! r!ducc-&n
d! .# d-'!s-on#.-d#d t#n 1o1u.#r QJ/:
1. L#s co'1on!nt!s 1r-nc-1#.!s o,t-!n!n s!cu!nc-#.'!nt! .# 'á!n !.
s!nt-do d! !rror d! r!construcc-&n
'. L#s co'1on!nt!s 1r-nc-1#.!s o,t!n-d#s son orto$on#.!s !ntr! s-) 6#c-.-t#ndo su
1ost!r-or 1roc!s#do) 4# 9u! 1u!d!n tr#t#rs! -nd!1!nd-!nt!'!nt!
Los d#tos d! !ntr#d# !st#rán d-s1u!stos !n un# '#tr-" + [ \' < n) dond! m !s !. n'!ro
d! 7#r-#,.!s d! !ntr#d# 4 n !s !. n'!ro d! o,s!r7#c-on!s M-!ntr#s 9u! .os d#tos
1ro4!ct#dos !st#rán !n un# '#tr-" , [ \1 < n) con p 7#r-#,.!s s#.-d# 4 n o,s!r7#c-on!s) dond!
!. n'!ro d! 7#r-#,.!s d! s#.-d# !s '!nor 9u! !. d! !ntr#d# > p;m C#d# 7!ctor &i Q
-
8/18/2019 Analisis Componentes Principales
33/130
*0 DESCRIPCI8N DEL PCA
'á
-
8/18/2019 Analisis Componentes Principales
34/130
CAPTULO *: ANÁLISIS DE COMPONENTES PRINCIPALES
A $r#nd!s r#s$os !. 6unc-on#'-!nto d!. PCA !stá !n6oc#do # !ncontr#r) # 1#rt-r d! un
con(unto d! d#tos d! !ntr#d# X con m 7#r-#,.!s) un 7!ctor d! 1!sos u$ c#1#" d! 1ro4!ct#r
!st! con(unto d! d#tos so,r! .# d-r!cc-&n d! 'á u$
X , y # > u # X , =, y u I >**
P#r# ..!7#r # c#,o .# conc!ntr#c-&n d! .# -n6or'#c-&n !n !. '!nor n'!ro 1os-,.! d!
co'1on!nt!s 4 9u! d-c# -n6or'#c-&n no !sté r!1!t-d#) .# tr#ns6or'#c-&n t-!n! 9u!
#s!$ur#r 9u! .#s 7#r-#,.!s r!su.t#nt!s !n !. nu!7o !s1#c-o s!#n orto$on#.!s) r#"&n 1or .#
9u! s! 6u!r"# .# r!str-cc-&n U U I D! !st# 6or'# cu#ndo !.-'-n!'os .os #tr-,utos '!nos
s-$n-6-c#t-7os 1!rd!r!'os .# '!nor c#nt-d#d d! -n6or'#c-&n P#r# !ncontr#r .# '#tr-" U 9u!
r!su!.7! !. 1ro,.!'# d#do !n >** 1r-'!ro #4 9u! d!s#rro..#r su !
-
8/18/2019 Analisis Componentes Principales
35/130
*0 DESCRIPCI8N DEL PCA
maxU
tr {U T C XX U }
su(!to # U U > I >*
Aor# t!n!'os un 1ro,.!'# d! o1t-'-"#c-&n con r!str-cc-on!s) 1or .o t#nto 1#r#
r!so.7!r !stá !st# !*+co'o .# '#tr-" d! 'u.t-1.-c#dor!s d! L#$r#n$! 4 t!n!'os 9u!
L p = Tr {U T
C XX U } − ( I −U T
U )
d L p
d U = 2 C XX U + ( −2U ) =0
C XX U = U >*
..!$#'os # un 1ro,.!'# d! #uto7#.or!s 4 #uto7!ctor!s so,r! .# '#tr-" d! co7#r-#n"# d! .os
d#tos
D! !st# 6or'# !. PCA s! 1u!d! r!so.7!r co'o un 1ro,.!'# d! #uto7!ctor!s 4
#uto7#.or!s Los #uto7!ctor!s d! C @@ 1ro1orc-on#n .#s d-r!cc-on!s d! 'á*
dond! s! conoc! 9u! U 4 V son '#tr-c!s ortonor'#.!s) 4 U > Qu$ u # = um t-!n! !n sus
co.u'n#s .os #uto7!ctor!s d! XX . Σ !s un# '#tr-" d-#$on#. con .os alores sin4"lares d! XX
C#d# 7#.or s-n$u.#r !stá d!6-n-do co'o .# r#2" cu#dr#d# d!. #uto7#.or corr!s1ond-!nt! > i
^Bi
J+
-
8/18/2019 Analisis Componentes Principales
36/130
CAPTULO *: ANÁLISIS DE COMPONENTES PRINCIPALES
D! !st# 6or'# s! o,t-!n! '!d-#nt! .# SVD d! X 9u!:
XX T
= (U Σ V T
) (U ΣV T
)T
= U Σ2
U T
XX T U = U Σ
2 >*K
Est# .t-'# ! I >*0/
Aor# s- s! d!s#rro..# !. tér'-no # '-n-'-"#r d! !st# !*00
T!n-!ndo !n cu!nt# 9u! U U > I ) .# !
-
8/18/2019 Analisis Componentes Principales
37/130
** IMPLEMENTACIONES DEL PCA
Tr { X T X } − 2 Tr { X T UU T X } + Tr { X UU T X }= Tr { X T X } − Tr { X T UU T X }
= Tr { X T X } − Tr {U T XX T U }
>*0*
F-n#.'!nt!) s- !.-'-n#'os .os tér'-nos 9u! no -n6.u4!n !n .# '-n-'-"#c-&n) !.
1ro,.!'# d!. PCA co'o '-n-'-"#c-&n d!. !rror d! r!construcc-&n 9u!d# r!su'-do !n .#
s-$u-!nt! ! I >*0J
Por .o 9u! s! 1u!d! co'1ro,#r co'o #',#s 6or'u.#c-on!s r!su!.7!n !. '-s'o
1ro,.!'# Ad!'ás) !st# nu!7# 6or'u.#c-&n 6#c-.-t#rá .# 'od-6-c#c-&n d!. co'1ort#'-!nto
d!. #.$or-t'o '!d-#nt! .# #d-c-&n d! nu!7os tér'-nos o .# 'od-6-c#c-&n d!. cost! Esto #c!
9u! .# 6or'u.#c-&n d!. PCA co'o .# '-n-'-"#c-&n d!. !rror d! r!construcc-&n s!# un
!
-
8/18/2019 Analisis Componentes Principales
38/130
CAPTULO *: ANÁLISIS DE COMPONENTES PRINCIPALES
d#do 9u! !n c#d# 1#so s&.o c#.cu.# un n-co 7!ctor d! 1ro4!cc-&n) c#d# 1#so !s 'ás s!nc-..o
S! c#.cu.#r#n .os 7!ctor!s d! 1ro4!cc-&n uno 1or uno !n dos !t#1#s:
1. En !st# 1r-'!r# !t#1# s! !(!cut# !. PCA so,r! X . S! #..# !. 1r-'!r 7!ctor d!
1ro4!cc-&n 4 .# 1r-'!r# co'1on!nt! 1r-nc-1#. S! 1u!d!n ut-.-"#r .#s dos
6or'u.#c-on!s 1r!s!nt#d#s !n .# s!cc-&n #nt!r-or S- s! us# .# 9u! '#
-
8/18/2019 Analisis Componentes Principales
39/130
*J EEMPLO SINTXTICO
En .# F-$ur# 0 s! 'u!str# !. con(unto d! d#tos d! !ntr#d#:
Figura 1: D#tos d! !ntr#d# d!. !(!'1.o s-ntét-co
En .# F-$ur# * s! 1u!d!n 7!r .os #uto7#.or!s o,t!n-dos !n !. !(!'1.o d! s-ntét-co Los
#uto7#.or!s -nd-c#n .# c#nt-d#d d! -n6or'#c-&n 9u! #1ort# c#d# co'1on!nt! 1r-nc-1#. En
!st! c#so !. t!rc!r #uto7#.or !s 1ráct-c#'!nt! / 1or .o 9u! .# t!rc!r# co'1on!nt! 1r-nc-1#.
no #1ort# -n6or'#c-&n 4 1u!d! s!r !.-'-n#d# s-n n-n$n 1!r(u-c-o 1#r# .#s !t#1#s
1ost!r-or!s Est! r!su.t#do !r# d! !s1!r#r 1or9u! #,2# un# 7#r-#,.! d!1!nd-!nt! d! .#s
otr#s dos !n .os d#tos or-$-n#.!s
Figura ': Auto7#.or!s o,t!n-dos #. #1.-c#r !. PCA so,r! !. con(unto d! d#tos s-ntét-cos d!. !(!'1.o
Co'o s! r!7!.# !n .# F-$ur# J ># tr#s tr#ns6or'#r con !. PCA .os d#tos d!. !(!'1.o
s-ntét-co .# r!1r!s!nt#c-&n d! .#s tr!s 7#r-#,.!s # c#',-#do !n !. nu!7o !s1#c-o Aor# #4
dos 7#r-#,.!s 9u! 7#r2#n 1!rc!1t-,.!'!nt! '-!ntr#s 9u! .# t!rc!r# 7#r-#,.! #1!n#s c#',-#
S! o,s!r7# '!(or !n .# F-$ur# J >,) c) d .# r!.#c-&n !ntr! .#s 7#r-#,.!s Wu!d#
J
-
8/18/2019 Analisis Componentes Principales
40/130
CAPTULO *: ANÁLISIS DE COMPONENTES PRINCIPALES
d!'ostr#do 9u! .# t!rc!r# 7#r-#,.! !s c.#r#'!nt! 1r!sc-nd-,.! 1or9u! cont-!n! 'u4 1oc#
-n6or'#c-&n 4# 9u! tod#s .#s 'u!str#s t-!n!n un 7#.or !n torno # / S-n !',#r$o) .# 1r-'!r#
4 .# s!$und# 7#r-#,.! cont-!n!n c#s- tod# .# -n6or'#c-&n
Esto t#',-én s! 1u!d! 7!r !n .# r!1r!s!nt#c-&n d! .os #uto7#.or!s d! .os d#tos !n .#
F-$ur# * dond! !. 1r-'!r #uto7#.or cont-!n! .# '#4or 1#rt! d! .# -n6or'#c-&n) !. s!$undo
#uto7#.or t#',-én $u#rd# -n6or'#c-&n #un9u! '!nos 4 !. t!rc!r #uto7#.or 9u! !stá 'u4
c!rc# d! / 1or9u! c#s- no t-!n! -n6or'#c-&n 1or9u! tod# c#s- tod# .# 7#r-#n"# !stá cont!n-d#
!n .os dos 1r-'!ros #uto7#.or!s
Figura (: Nu!7#s V#r-#,.!s o,t!n-d#s #. 1ro4!ct#r .os d#tos !n !. nu!7o !s1#c-o En ># !stán r!1r!s!nt#d#s .#s J7#r-#,.!s 4 !n >,) c) d s! 'u!str#n .#s 7#r-#,.!s d! * !n *
/
>#
>, >c >d
-
8/18/2019 Analisis Componentes Principales
41/130
*J EEMPLO SINTXTICO
0
-
8/18/2019 Analisis Componentes Principales
42/130
Capítulo (/&tensiones del PCA
En !st! c#12tu.o s! 7#n # 1r!s!nt#r .#s 7!rs-on!s 'od-6-c#d#s d!. PCA 9u! 7#n # s!r
o,(!to d! !stud-o !n !st! PFC En 1r-'!r .u$#r s! 1.#nt!# un# 6or'u.#c-&n -t!r#t-7# 1#r#
r!so.7!r !. PCA Est# 6or'u.#c-&n nos 1!r'-t-rá 1.#nt!#r !. PCA d! .# '#n!r# #d!cu#d# 1#r#
9u! s! .! 1u!d# -ntroduc-r 'od-6-c#c-on!s D!1!nd-!ndo d! .#s 'od-6-c#c-on!s 9u! s!
r!#.-c!n s! #.c#n"#rán .#s !
-
8/18/2019 Analisis Componentes Principales
43/130
J0 PCA ITERATIVO
'-n-'-"#c-&n 1#r# c#',-#r !. co'1ort#'-!nto d!. #.$or-t'o Por .o 9u! !. PCA -t!r#t-7o !s
un !
-
8/18/2019 Analisis Componentes Principales
44/130
CAPTULO J: E5TENSIONES DEL PCA
Aor# !. 1ro,.!'# s! 7# # r!so.7!r !n dos 1#sos: !n !. 1r-'!ro s! c#.cu.#rá u co'o un
1ro,.!'# d! '2n-'os cu#dr#dosZ 4 !n !. s!$undo 1#so s! #..#rá v co'o un 1ro,.!'# con
r!str-cc-on!s '!d-#nt! .# SVD
3.1.1.1 Cálculo de u
Ant!s d! c#.cu.#r u) s! 1ro1on! un d!s#rro..o '#t!'át-co 9u! r!duc! .# 1#rt! #
'-n-'-"#r con !. corr!s1ond-!nt! #orro co'1ut#c-on#. 4 .# s-'1.-6-c#c-&n d!.
6unc-on#'-!nto d!. #.$or-t'o QJ/
S! 1#rt! d! .# !J*:
∑i=1n ∣ x i −vuT x i ∣2= (v−u) X T X (v−u)
= vT X T X v−vT X T X u−uT X T X v+u X T X u >JJ
S- s! !.-'-n#n .os tér'-nos 9u! no 7#n # s!r o1t-'-"#dos) !s d!c-r) #9u!..os 9u! no
cont!n$#n u !n .# !J
D! !st# 6or'#) !. cá.cu.o d! u 9u!d# r!duc-do # un 1ro,.!'# d! o1t-'-"#c-&n) con !.
7!ctor v 6-(o dur#nt! !st! 1#so
3.1.1.2 Cálculo de v
Un# 7!" c#.cu.#do u) !. tér'-no v X X u t-!n! 9u! s!r '#
-
8/18/2019 Analisis Componentes Principales
45/130
J0 PCA ITERATIVO
uno 1or uno) '-!ntr#s 9u! !n .# s!$und# s! ,usc#n .#s '#tr-c!s U 4 V !n ,.o9u!
3.1.2.1 PCA Deflactado
Est# 1r-'!r# 6or'# d! -'1.!'!nt#r !. #.$or-t'o PCA -t!r#t-7o r!su.t# d! #d#1t#r .#
-'1.!'!nt#c-&n d!. PCA r!curs-7o # .# 7!rs-&n -t!r#t-7# Por .o t#nto) s! #..#rán .os 7!ctor!s
d! 1ro4!cc-&n -nd-7-du#.'!nt! ;#,rá un ,uc.! 1or c#d# uno d! !..os 4 # '!d-d# 9u! s!
#..#n s! $u#rd#n !n un# '#tr-" E. o,(!t-7o !s '-n-'-"#r .# d-6!r!nc-# !ntr! ui 4 v i !n c#d#
co'1on!nt! ;#4 9u! t!n!r !n cu!nt# 9u! # '!d-d# 9u! s! o,t-!n!n .os 7!ctor!s d!
1ro4!cc-&n #4 9u! d!6.#ct#r .# '#tr-" + con .os d#tos d! !ntr#d# con !. 6-n d! !.-'-n#r .#
-n6or'#c-&n 9u! cont-!n!n d! .os d#tos !n !. nu!7o !s1#c-o 4 9u! !. s-$u-!nt! 7!ctor s!#
-nd!1!nd-!nt! d! .#s #nt!r-or!s
E. 1s!udoc&d-$o d! !st! #.$or-t'o !stá d!scr-to !n .# T#,.# 0
1. Const#nt!s -n-c-#.!s: cot# 0a0/
'. P#rt-'os d! .# '#tr-" d! d#tos +
(. S! !.-'-n# .# '!d-# d! +
0. !or i > QDP F v > QP
16. S! #ctu#.-"# .# d-6!r!nc-# !ntr! u 4 v
dif uv=∑i=1
m
(ui−v i)/(∣u∣2∣v∣2)
11. end
1'. S! nor'#.-"# u 4 s! $u#rd# !n -
1(. S! d!6.#ct# +:
X = X - uT vX
14. end
1. S! c#.cu.#n .#s co'1on!nt!s 1r-nc-1#.!s '!d-#nt! Y > U X
abla $: Pse"docódi4o de la implementación al4oritmo PCA *teratio de!lactado.
+
-
8/18/2019 Analisis Componentes Principales
46/130
CAPTULO J: E5TENSIONES DEL PCA
3.1.2.2 PCA en Bloque
En !st# s!$und# 6or'# d! -'1.!'!nt#r !. #.$or-t'o PCA -t!r#t-7o s! #..#n .os 7!ctor!s
d! 1ro4!cc-&n todos # .# 7!") 1or .o 9u! .# d-6!r!nc-# !ntr! U 4 V ) 9u! s! us# co'o cr-t!r-o d!
1#r#d#) d!,! !7#.u#rs! so,r! tod#s .os 7!ctor!s # .# 7!"
E. 1s!udoc&d-$o 1#r# !st# s!$und# -'1.!'!nt#c-&n d!. PCA It!r#t-7o s! 'u!str# !n .#
T#,.# *
Aun9u! !. co'1ort#'-!nto d! #',os #.$or-t'os d!,!r2# s!r -$u#. s! !ncu!ntr#n
1!9u!3#s d-6!r!nc-#s En 1r-'!r .u$#r !n !. #.$or-t'o d!. PCA It!r#t-7o !n ,.o9u! no s!
contro.# 9u! .#s co'1on!nt!s 1r-nc-1#.!s !stén ord!n#d#s s!$n su 7#r-#n"# '-!ntr#s 9u!!n !. #.$or-t'o d!6.#ct#do s- 9u! s! conoc! #. c#.cu.#rs! un# 1or un#
1. Const#nt!s -n-c-#.!s: cot# 0a0/
'. P#rt-'os d! .# '#tr-" d! d#tos +
(. S! !.-'-n# .# '!d-# d! +
0. S! !.-$! !. n'!ro QDP F V > QP
16. S! #ctu#.-"# .# d-6!r!nc-# !ntr! U 4 V
dif UV =1
p∑i=1
p1
∣U i ∣2∣V i ∣
2 ∑ j=1
m
uij−vij
11. end
1'. S! nor'#.-"#n .#s co.u'n#s d! -
1(. S! c#.cu.#n .#s co'1on!nt!s 1r-nc-1#.!s '!d-#nt! , -T+
abla #: Pse"docódi4o de la implementación al4oritmo PCA *teratio en blo"e.
L#s d-6!r!nc-#s 7-!n!n d#d#s no so.o 1or .# '#n!r# d! -'1.!'!nt#r !. #.$or-t'o s-no
t#',-én 1or .# 7#r-#,.! d-6!r!nc-# Est# 7#r-#,.!) .# cu#. s! !ncu!ntr# !n #',#s
-'1.!'!nt#c-on!s) !s .# '!d-d# d! s-'-.-tud 9u! !s ,usc#d# !ntr! .os 7!ctor!s d!
1ro4!cc-&n u !n U 7 4 .os 7!ctor!s d! r!construcc-&n v !n V . R!cord#r 9u! !. 'od!.o d!. PCA
-
8/18/2019 Analisis Componentes Principales
47/130
J0 PCA ITERATIVO
-t!r#t-7o 1#r# 9u! s!# !
-
8/18/2019 Analisis Componentes Principales
48/130
CAPTULO J: E5TENSIONES DEL PCA
Figur 4! A"toalores de la matri' de coarian'a en la base de datos SpamIase
En .# F-$ur# + s! 1u!d!n o,s!r7#r .#s d-6!r!nc-#s !ntr! .#s co'1on!nt!s 1r-nc-1#.!s d!
#',os 'étodos d!. PCA It!r#t-7o 4 .#s co'1on!nt!s d!. PCA or-$-n#. P#r# !st#
co'1#r#c-&n s! # ut-.-"#do .# d-6!r!nc-# cos!no
L# d-6!r!nc-# cos!no !s !. cos!no d!. án$u.o 9u! 6or'#n .os dos 7!ctor!s 1or .o 9u! s-
t-!n! un 7#.or 1r&
-
8/18/2019 Analisis Componentes Principales
49/130
J0 PCA ITERATIVO
S! co'1ru!,# 9u! !. PCA It!r#t-7o !n ,.o9u! !s !. 'étodo 9u! 1roduc! co'1on!nt!s
1r-nc-1#.!s 'ás c!rc#n#s #. PCA or-$-n#. S-n !',#r$o) .#s dos .t-'#s co'1on!nt!s no son
-$u#.!s # .#s co'1on!nt!s d!. PCA or-$-n#. Esto !s d!,-do # 9u! co'o s!$n s! #..#n 'ás
co'1on!nt!s) sus 7#r-#,.!s 1os!!n un 7#.or #,so.uto 'ás 1!9u!3o Por .o t#nto) !s 'ás
costoso #.c#n"#r !. 7#.or corr!cto 4 .os !rror!s 1!r'-t-dos s! #cu'u.#n !n !st#s .t-'#sco'1on!nt!s 9u! 1!s#n '!nos so,r! !. !rror d! r!construcc-&n En !. c#so 9u! s! u,-!s!n
r!9u!r-do 'ás co'1on!nt!s .os !rror!s u,-!s!n 1#s#do # .#s u.t-'#s co'1on!nt!s co'o
s! 1u!d! 7!r !n .# F-$ur#
T#',-én s! 7! !n .# F-$ur# + co'o .#s co'1on!nt!s 1r-nc-1#.!s d!. PCA It!r#t-7o
d!6.#ct#do # 1#rt-r d! .# t!rc!r# co'1on!nt! c#d# 7!" s! d!s72#n 'ás d! .#s co'1on!nt!s
d!. PCA or-$-n#. Esto d! d!,! # 9u! 1#r# !st# -'1.!'!nt#c-&n .os !rror!s no s! #cu'u.#n
!n .#s .t-'#s co'1on!nt!s 1r-nc-1#.!s co'o ocurr2# !n .# 7!rs-&n !n ,.o9u!) s-no 9u! s!
1!r'-t!n 'ás !rror!s # .# or# d! c#.cu.#r c#d# co'1on!nt! Ad!'ás !stos !rror!s s! 7#n
1ro1#$#ndo d! un# co'1on!nt! # .# s-$u-!nt! !n !. 1roc!so d! d!6.#cc-&n D! tod#s 6or'#s
s! 1u!d! co'1ro,#r 9u! !st! !6!cto #1#r!c! # 1#rt-r d!. c#.cu.o d! .#s co'1on!nt!s '!nos
s-$n-6-c#t-7#s 4 7#r-#,.!s con 7#.or!s 'ás c!rc#nos # c!ro 1or .o 9u! .#s co'1on!nt!s con
'ás -n6or'#c-&n son -$u#.!s 9u! .#s #..#d#s '!d-#nt! !. PCA or-$-n#.
Figura : D-6!r!nc-# cos!no !ntr! .os 7!ctor!s d! 1ro4!cc-&n o,t!n-dos con !. PCA or-$-n#. 4 .#s7!rs-on!s d!6.#ct#ndo 4 !n ,.o9u! d!. PCA It!r#t-7o
1 2 3 4 5 6 7 8 9 100.82
0.84
0.86
0.88
0.9
0.92
0.94
0.96
0.98
1
1.02
Componentes Principales
D i s t a n c i a c o s e n o
PCA it. en bloqe
PCA it. !e"lactan!o
-
8/18/2019 Analisis Componentes Principales
50/130
CAPTULO J: E5TENSIONES DEL PCA
En cu#nto #. t-!'1o d! !(!cuc-&n) co'o s! o,s!r7# !n .# F-$ur# ) !. PCA It!r#t-7o
d!6.#ct#do ut-.-"# un t-!'1o '!nor #. c#.cu.#r 1oc#s co'1on!nt!s 1r-nc-1#.!s P#r# !st!
c#so !. t-!'1o !s '!(or #st# 9u! s! #..#n s-!t! co'1on!nt!s Cu#ndo s! r!9u-!r! c#.cu.#r
'ás co'1on!nt!s !. PCA -t!r#t-7o !n ,.o9u! n!c!s-t# '!nos t-!'1o 1or .o $!n!r#.) #un9u!
su !7o.uc-&n no !s t#n !st#,.! co'o !n !. PCA -t!r#t-7o d!6.#ct#do Esto d# 7!nt#(# #. PCA !n,.o9u! 1or9u! cu#ndo s! #..#n 1oc#s co'1on!nt!s .# d-6!r!nc-# con !. PCA d!6.#ct#do !s
n-c#'!nt! d! déc-'#s d! s!$undo) '-!ntr#s 9u! 1#r# #..#r 'uc#s co'1on!nt!s .#s
d-6!r!nc-#s #u'!nt#n # s!$undos) s-!ndo !. PCA d!6.#ct#do ,#st#nt! 1!or
+/
Figura 2: V#r-#c-&n d! .# d-6!r!nc-# !ntr! PCA or-$-n#. 4 PCA -t!r#t-7o !n ,.o9u! s!$n !. n'!rod! co'1on!nt!s 1r-nc-1#.!s ut-.-"#d#s
Figura 3: T-!'1o d! !(!cuc-&n r!s1!cto #. n'!ro d! co'1on!nt!s 1r-nc-1#.!s c#.cu.#d#s
0 5 10 15 20 25 30 35 400
1
2
3
4
5
6
7
Componentes principales
# i e m p o ! e e $ e c c i % n & ' e ( )
PCA it. !e"lactan!o
PCA it. en bloqe
-
8/18/2019 Analisis Componentes Principales
51/130
J0 PCA ITERATIVO
E. #ná.-s-s PCA !nc#(# 1!r6!ct#'!nt! !n 1ro,.!'#s d! c.#s-6-c#c-&n 4 r!$r!s-&n) dond!
.os d#tos d! !ntr#d# t-!n!n 'uc#s 7#r-#,.!s P#r# co'1ro,#r 9u! !st! 'étodo 6unc-on#
corr!ct#'!nt! 4 9u! 1od!'os r!duc-r #tr-,utos s-n 1!rd!r -n6or'#c-&n s-$n-6-c#t-7#
#1.-c#r!'os un c.#s-6-c#dor tr#s .# !
-
8/18/2019 Analisis Componentes Principales
52/130
CAPTULO J: E5TENSIONES DEL PCA
R!s1!cto # .#s d-6!r!nc-#s !ntr! .#s tr!s cur7#s) 7!'os 9u! #un9u! s-$u!n !7o.uc-on!s
s-'-.#r!s .# d!. PCA or-$-n#. o6r!c! un '!nor !rror Esto s! d!,! # 9u! !n !. PCA -t!r#t-7o
#4 9u! !ncontr#r !. co'1ro'-so !ntr! .# con7!r$!nc-# d! u 4 v ) 4 !. cost! co'1ut#c-on#.)
co'o s! !
-
8/18/2019 Analisis Componentes Principales
53/130
J* SPARSE PCA
Con !. o,(!t-7o d! r!so.7!r !st! 1ro,.!'# 4 6#c-.-t#r .# -nt!r1r!t#c-&n d! .#s
co'1on!nt!s 1r-nc-1#.!s #n sur$-do 7#r-#s técn-c#s A.$unos !?.!#st #,so.ut! sr-n#$!
#nd s!.!ct-on o1!r#tor@ 9u! s-'u.tán!#'!nt! 1roduc! 'od!.os 1r!c-sos 4 d-s1!rsos Más
#d!.#nt!) ou ;#st-! QJ 1ro1us-!ron .# técn-c# d! .# red elástica >?!.#st-c n!t@) un#
$!n!r#.-"#c-&n d! .# #nt!r-or) !n .# 9u! s! co',-n# un tér'-no d! r!$u.#r-"#c-&n 5$ con otrod! r!$u.#r-"#c-&n 5 #.
F-n#.'!nt! # 1#rt-r d! !st#s dos técn-c#s sur$! un# nu!7# #1ro
-
8/18/2019 Analisis Componentes Principales
54/130
CAPTULO J: E5TENSIONES DEL PCA
r!d !.ást-c# !s d-r!ct# d!ntro d! .os cr-t!r-os d! r!$r!s-&n 1roduc-!ndo 7!ctor!s d!
1ro4!cc-&n con co!6-c-!nt!s d-s1!rsos) # c#',-o d! s#cr-6-c#r orto$on#.-d#d !n .os 7!ctor!s
d! 1ro4!cc-&n 4 7#r-#n"# !n .#s co'1on!nt!s 1r-nc-1#.!s
En !. s-$u-!nt! #1#rt#do s! !J
Dond! !s un 7#.or no n!$#t-7o 9u! 6u!r"# # .os co!6-c-!nt!s # #nu.#rs! S!$n #u'!nt#
su 7#.or) 'ás co!6-c-!nt!s s! #nu.#n Pr-'!ro s! #nu.#rán .os 9u! t!n$#n un 7#.or 'ás
r!duc-do 4# 9u! #1ort#n '!nos -n6or'#c-&n
E
-
8/18/2019 Analisis Componentes Principales
55/130
J* SPARSE PCA
!st#s c#r#ct!r2st-c#s .#sso cons-$u! s-'u.tán!#'!nt! 1r!c-s-&n 4 un 'od!.o d-s1!rso)
cr!#ndo un 'od!.o d! s!.!cc-&n d! 7#r-#,.!s ,#st#nt! ,u!no
S-n !',#r$o) .# 6or'u.#c-&n .#sso t-!n! 7#r-#s .-'-t#c-on!s QJ L# 'ás r!.!7#nt! !s
9u! !. n'!ro d! 7#r-#,.!s s!.!cc-on#d#s 1or .#sso !stá .-'-t#do #. n'!ro d!
o,s!r7#c-on!s D!,-do # !st# .-'-t#c-&n .#sso no !s #d!cu#d# 1#r# #9u!..os con(untos d!
d#tos 9u! t!n$#n 'ás 7#r-#,.!s 9u! o,s!r7#c-on!s
Con !. 6-n d! so.uc-on#r !st# .-'-t#c-&n s! 1ro1uso .# 6or'u.#c-&n d! la red elástica QJ)
9u! !s un# $!n!r#.-"# .# 6or'u.#c-&n .#sso -ntroduc-!ndo un tér'-no d! r!$u.#r-"#c-&n 5*
#d-c-on#. #. 5$) 1or .o 9u! t-!n! s-'-.#r!s c#r#ct!r2st-c#s !n !. 1roc!so d! o1t-'-"#c-&n Aor#
t!ndr!'os 0 4 * co'o 1#rá'!tros no n!$#t-7os 1#r# .# !st-'#c-&n d! .# r!d !.ást-c#) 4 .osco!6-c-!nt!s d! r!$r!s-&n 7!ndrán d#dos 1or .# r!so.uc-&n d! :
û en = arg minu ∣" − ∑i=1
p
X i ui ∣2
+ λ 2 ∑i=1
p
∣ui∣2
+ λ 1∑i=1
p
∣ui∣ >J0/
Co'o s! 1u!d! o,s!r7#r .# r!d !.ást-c# !s un# co',-n#c-&n con7! I p >J00
Dond! p !s !. n'!ro d! co'1on!nt!s 1r-nc-1#.!s 9u! son ,usc#d#s ;#4 9u! t!n!r !ncu!nt# 9u!) #. -$u#. 9u! !n .# !J*) .# r!so.uc-&n d! .# !J00 !stá
++
-
8/18/2019 Analisis Componentes Principales
56/130
CAPTULO J: E5TENSIONES DEL PCA
d!t!r'-n#d# 1or .# cond-c-&n d! con7!r$!nc-# !ntr! .os 7#.or!s d! u 4 v .
N&t!s! 9u! !. PCA It!r#t-7o !s un# c#so 1#rt-cu.#r d! >J) #. #c!r 0/ s! o,t-!n!
>J*
Otr# cons-d!r#c-&n # .# 9u! #4 9u! #c!r r!6!r!nc-# !s 9u! !n .# !
-
8/18/2019 Analisis Componentes Principales
57/130
J* SPARSE PCA
3.2.3.2 Cálculo de v
Un# 7!" o,t!n-do u s! 6-(# su 7#.or 1#r# 1od!r '# I p
Est! .t-'o 1ro,.!'# d! o1t-'-"#c-&n s! r!su!.7! !J
(.'.0 Implementaciones del PCA
A cont-nu#c-&n s! 1r!s!nt#n dos 6or'#s d! -'1.!'!nt#r !. #.$or-t'o SPCA 1#r# #..#r
.#s 1r-'!r#s
-
8/18/2019 Analisis Componentes Principales
58/130
CAPTULO J: E5TENSIONES DEL PCA
L#s 7!nt#(#s d! ut-.-"#r !. SPCA d!6.#ct#do son 7#r-#s:
Por un .#do s! o,t-!n! .o '!(or d! c#d# uno d! .os #.$or-t'os PCA 4 SPCA 1or9u!)
co'o 4# s! # !
-
8/18/2019 Analisis Componentes Principales
59/130
J* SPARSE PCA
1. Const#nt!s -n-c-#.!s: cot# 0a0/
'. P#rt-'os d! .# '#tr-" d! d#tos +
(. S! !.-'-n# .# '!d-# d! +
0. !or i > < co'1on!nt!s 1r-nc-1#.!s
. In-c-#.-"#r v #.!#tor-#'!nt!
2. di! " 0
3. DEile di! " b cot#
4. S! #..# u '!d-#nt!:
û = minu
(uT X T X u−2vT X T X u) + ∑ j=1
#
λ1, j∣u j∣1
5. S! #..# v '!d-#nt!: SVD d! X X u
X X u > QDP F v > QP
16. S! #ctu#.-"# .# d-6!r!nc-# !ntr! u 4 v
dif u v=∑i=1
m
(ui−vi )/(∣u∣2∣v∣
2)
11. end
1'. S! nor'#.-"# u 4 s! $u#rd# !n -
1(. S! d!6.#ct# +: X = X- uT vX
14. end
1. S! c#.cu.#n .#s co'1on!nt!s 1r-nc-1#.!s '!d-#nt! , -T+
abla : Pse"docódi4o de la implementación al4oritmo SPCA de!lactado.
3.2.4.2 SPCA en Bloque
En !st# s!$und# 6or'# d! -'1.!'!nt#r !. #.$or-t'o SPCA -t!r#t-7o s! #..#n .#s
co'1on!nt!s 1r-nc-1#.!s tod#s # .# 7!" P#r# !..o s! r!9u-!r! .# 1r!1#r#c-&n d! un# '#tr-"
9u! cont!n$# .os d#tos !n su d-#$on#. t#nt#s 7!c!s co'o co'1on!nt!s s! 9u-!r#n #..#rAor# #. c#.cu.#rs! tod#s .#s co'1on!nt!s 1r-nc-1#.!s s-'u.tán!#'!nt! .# d-6!r!nc-# !ntr! u
4 v s! !7#.# 1#r# tod#s .#s co'1on!nt!s (unt#s
E. 1s!udoc&d-$o 1#r# !st! #.$or-t'o 9u!d# r!6.!(#do !n .# T#,.#
+
-
8/18/2019 Analisis Componentes Principales
60/130
CAPTULO J: E5TENSIONES DEL PCA
1. Const#nt!s -n-c-#.!s: cot# 0a0/
'. P#rt-'os d! .# '#tr-" d! d#tos +
(. S! !.-'-n# .# '!d-# d! +
0. S! !.-$! !. n'!ro QDP F V > QP
16. S! #ctu#.-"# .# d-6!r!nc-# !ntr! U 4 V
dif UV =1
p∑i=1
p1
∣U i ∣2∣V i ∣
2 ∑ j= 1
m
uij−vij
11. end
1'. S! nor'#.-"#n .#s co.u'n#s d! -
1(. S! c#.cu.#n .#s co'1on!nt!s 1r-nc-1#.!s '!d-#nt! , -T+
abla /: Pse"docódi4o de la implementación al4oritmo SPCA en blo"e.
(.(
-
8/18/2019 Analisis Componentes Principales
61/130
JJ PCA
Es 1os-,.! !ncontr#r 1.#nt!#'-!ntos 1#r!c-dos 9u! ,usc#n #3#d-r ro,ust!" #. PCA QJ*)
QJJ) QJ) QJ+ 4 QJ En QJ s! 1r!s!nt#n dos 'étodos 9u! r!su!.7!n 1ro,.!'#s no
.-n!#.!s con !. !rn!. PCA us#ndo un# 6unc-&n d! cost! ?ε-insensibleM. En !. 1r-'!r 'étodo
r!su!.7!n .#s !cu#c-on!s '!d-#nt! 1ro$r#'#c-&n cu#drát-c# s!cu!nc-#. >?s!9u!nt-#.
9u#dr#t-c 1ro$r#''-n$@) SWP co'o un 1ro,.!'# d! #uto7#.or!s 4 #uto7!ctor!sZ 4 !n !.
s!$undo 1ro1on! un !s9u!'# s-'1.-6-c#do d! 1!sos 1#r# r!so.7!r un 1ro,.!'# d!
#uto7#.or!s $!n!r#.-"#dos -t!r#t-7os
A 1#rt-r d! !st# -d!#) 1!ro !'1.!#ndo un 1roc!d-'-!nto d-6!r!nt! con un# 6or'u.#c-&n
.-n!#. s! d!s#rro..#rá un# nu!7# 7!rs-&n d!. PCA A !st! nu!7o #.$or-t'o s! .! ..#'# PCA
1or9u! .# 6unc-&n d! cost! 9u! s! ut-.-"#rá s!rá d!. t-1o ? ε-insensibleM 4 !. 1#rá'!tro 'ás-'1ort#nt! !s .# to.!r#nc-# #. !rror ε %r#c-#s # !st! 1#rá'!tro s! cons!$u-rá r!duc-r !.
-'1#cto d!. !rror o ru-do -'1u.s-7o #soc-#do # .os d#tos) co'o s! !
-
8/18/2019 Analisis Componentes Principales
62/130
CAPTULO J: E5TENSIONES DEL PCA
r!so.7!r 1ro,.!'#s d! #1r!nd-"#(! 'á9u-n# d! t-1o su1!r7-s#do Un# d! sus 1r-nc-1#.!s
c#r#ct!r2st-c#s !s su ,u!n# c#1#c-d#d d! $!n!r#.-"#c-&n) .o 9u! # !co 9u! s! #4#n
!'1.!#do !n 'u.t-tud d! #1.-c#c-on!s Q
L# -stor-# d! .os #.$or-t'os d! 7!ctor!s so1ort! co'-!n"# !n .os #3os s!s!nt# d!. s-$.o
55 !n Rus-# con !. tr#,#(o d! V#1n-) L!rn!r 4 C!r7on!s-s so,r! t!or2# d!. #1r!nd-"#(!
!st#d2st-co QK 4 Q En .# 6or'# #ctu#.) .#s SVM #n s-do d!s#rro..#d#s !n .os .#,or#tor-os
ATT B!.. L#,or#tor-!s 1or V#1n- 4 sus #4ud#nt!s D!,-do # !st! !ntorno d! d!s#rro..o .#s
SVM !stán 6u!rt!'!nt! or-!nt#d#s # #1.-c#c-on!s r!#.!s E. 1r-nc-1#. c#'1o dond! 6u!ron
#1.-c#dos 4 dond! son s-st!'#s #.t#'!nt! co'1!t-t-7os !s !n !. á',-to d!. r!conoc-'-!nto
&1t-co d! c#r#ct!r!s Q) d!s1ués su uso s! # !&0) $0) )>&n ) $ne ∈ ℝH×ℝ ) dond! X son .#s o,s!r7#c-on!s o d#tos
d!. !s1#c-o d! !ntr#d# ! Y .#s 7#r-#,.!s # !st-'#r !n !. !s1#c-o d! s#.-d#
En .# SVR Q+/) !. o,(!t-7o !s !ncontr#r un# 6unc-&n ̂$ = f ( x) .# cu#. t!n$# 1#r#
c#d# d#to d! !ntr!n#'-!nto # co'o d!s7-#c-&n 'á
-
8/18/2019 Analisis Componentes Principales
63/130
JJ PCA
A cont-nu#c-&n s! 7#n # d!scr-,-r .# 6or'u.#c-&n .-n!#. d! .# SVR Est! c#so !s !. 'áss!nc-..o 4) #d!'ás) !s !. 9u! 7# # s!r us#do 1#r# -'1.!'!nt#r !. PCA L#s 6unc-on!s
.-n!#.!s to'#n .# s-$u-!nt! 6or'#:
f ( x ) = wT x + % donde w ∈ℝ & , % ∈ℝ >J0
Con !. o,(!t-7o d! 9u! .# 6unc-&n s! .o 'ás su#7! 1os-,.! *) fw ?' t-!n! 9u! s!r .o 'ás
1!9u!3# 1os-,.! Un# 6or'# d! cons!$u-r !st! 1ro1&s-to !s -nc.u-r .# '-n-'-"#c-&n d! !st!
tér'-no !n !. 1ro,.!'# d! o1t-'-"#c-&n T!n-!ndo !n cu!nt# 9u! .# s#.-d# d! .# 'á9u-n#
7-!n! d#d# 1or >J0 4 9u! s!$n !. cost! ? -ns!ns-t-7!@ .os !rror!s d! !st-'#c-&n d!,!ns!r '!nor!s 9u! ) .# SVR r!su!.7! !. s-$u-!nt! 1ro,.!'# d! o1t-'-"#c-&n:
w = minw
1
2∥w∥2
su(!to # { $i−wT x i −%ε
wT x i +%− $iε i=1,2,... , N
>J0
S! #su'! tác-t#'!nt! 9u! !n >J0 .# 6unc-&n !(N) !
-
8/18/2019 Analisis Componentes Principales
64/130
CAPTULO J: E5TENSIONES DEL PCA
w = minw
1
2∥w∥
2
+C ∑i =1
n
(ζi+ζ i! )
su&eto a >J0K
L# const#nt! C b / d!t!r'-n# !. co'1ro'-so !ntr! .# su#7-d#d d! !(N) 4 .# c#nt-d#d d!
!rror!s o d!s7-#c-on!s '#4or!s d! 1!r'-t-dos Esto corr!s1ond! con !. co'1ort#'-!nto
d! .# 6unc-&n d! 1!rd-d#s -ns!ns-,.! d!scr-t# #nt!r-or'!nt! 1or >J0+
%n .# F-$ur# ) 1r!s!nt#d# #. -n-c-o d! !st# s!cc-&n) s! 1u!d! o,s!r7#r !.
6unc-on#'-!nto d! >J0 Los 1untos d!ntro d! .# "on# '#rc#d# t-!n!n un !rror to.!r#,.! #.
!st#r # un# d-st#nc-# '!nor 9u! M-!ntr#s 9u! .os 1untos 6u!r# d! .# "on# '#rc#d#
contr-,u4!n #. cost! 9u! 1!n#.-"# #. #.$or-t'o Est# 6unc-&n d! cost! 1!r'-t! r!so.7!r un
1ro,.!'# d! r!$r!s-&n '!d-#nt! un 1ro,.!'# d! o1t-'-"#c-&n con r!str-cc-on!s so,r! .os
d#tos A d-6!r!nc-# d!. t21-co !rror cu#drát-co '!d-o) !st! cost! 1!n#.-"# .-n!#.'!nt! >no d!
6or'# cu#drát-c# .#s d!s7-#c-on!s 'ás #..á d! ) .o 9u! #c! 9u! s!# 'ás ro,usto !n
1r!s!nc-# d! ru-do -'1u.s-7o
T#',-én con !st# 6or'u.#c-&n s! 1u!d!n #d#1t#r d! '#n!r# 'ás s!nc-..# .#s SVM #
6unc-on!s no.-n!#.!s '!d-#nt! !. uso d! !rn!.s Q+J S-n !',#r$o) !n !st! 1ro4!cto so.o s!
7# # tr#,#(#r con 6unc-on!s .-n!#.!s 1or .o 9u! .# #1roo,(!t-7o d! !st! 1ro4!cto
(.(.( )odelo del J0K 1#r# r!so.7!r !. PCA) !s d!c-r) t!ndrá 9u!
'-n-'-"#r !. 7!ctor u d! 1ro4!cc-&n d! .os d#tos
Cu#ndo s! #d#1t# >J0K #. c#so d!. PCA #4 9u! t!n!r !n cons-d!r#c-&n 9u! s! ,usc#
9u! u y v t!n$#n .# '#4or s-'-.-tud 1#r# 9u! .os d#tos d! !ntr#d# X #. tr#ns6or'#rs! !n otr#
d-'!ns-&n Y 1u!d#n s!r r!cu1!r#dos con .# '!nor 1érd-d# d! -n6or'#c-&n 1os-,.! En1r-'!r .u$#r #4 9u! t!n!r !n cu!nt# 9u! s! 7# # '-n-'-"#r u) 1or .o 9u! u sust-tu4! # w . En
{ $ i−wT x −% ε + ζiw
T x +%− $i ε + ζi
!
ζ i , ζ i! " 0
-
8/18/2019 Analisis Componentes Principales
65/130
JJ PCA
s!$undo .u$#r) !. r!su.t#do 6-n#. y i !s !9u-7#.!nt! vx i Por .t-'o) no #4 9u! o.7-d#rs! d!.
tér'-no b 1#r# !9u-.-,r#r .os d#tos >!.-'-n#r !. s!s$o d!. !st-'#dor P#r# !st! 1ro4!cto s!
!stá tr#,#(#ndo con d#tos nor'#.-"#dos #nt!s d! !ntr#r !n !. #.$or-t'o 1or .o 9u! b no !s
n!c!s#r-#
S- s! #3#d!n tod#s .#s 'od-6-c#c-on!s #nt!r-or!s # >J0 r!su.t# .# s-$u-!nt! !J* 1#r# !. PCA:
minu
1
2∥u∥
2
+C ∑i=1
n
(ζi +ζ i! )
su&eto a >J0
Dur#nt! todo !st! 1ro4!cto s! !stán #n#.-"#ndo d-6!r!nt!s 'od!.os d!. PCA) 9u! #st#
#or# ,usc#,#n n-c#'!nt! un# ,u!n# 1r!c-s-&n o un# '!(or -nt!r1r!t#c-&n d! .os
r!su.t#dos s-n 1r!ocu1#rs! n- d!. cost! n- d!. ru-do #soc-#do # .os d#tos Por .o t#nto) .os
1#rá'!tros 9u! 1od2#n s!r 7#r-#dos !n .#s r!#.-"#c-on!s d! c#d# uno d! .os #.$or-t'os
#nt!r-or!s !r#n) d!1!nd-!ndo d!. t-1o d! 'od!.o: !. n'!ro d! co'1on!nt!s 1r-nc-1#.!s) .#
d-6!r!nc-# '2n-'# !ntr! u 4 v 1#r# .# con7!r$!nc-# d!. #.$or-t'o) d! d-s1!rs-&n > 0 4 d!
do,.! r!$u.#r-"#c-&n > * Con .# ut-.-"#c-&n d! !st# nu!7# 6unc-&n d! cost! !n !. PCA s!
'#n!(#r#n dos 1#rá'!tros 'ás) 4 C) 9u! 1!r'-t-rán un $o,-!rno 'ás !
-
8/18/2019 Analisis Componentes Principales
66/130
CAPTULO J: E5TENSIONES DEL PCA
1. Const#nt!s -n-c-#.!s: cot# 0a0/) Cost! 0/) 0a0/J
'. P#rt-'os d! .# '#tr-" d! d#tos +
(. S! !.-'-n# .# '!d-# d! +
0. !or - co'1on!nt!s 1r-nc-1#.!s
. In-c-#.-"#r v #.!#tor-#'!nt!
2. di! " 0
3. DEile di! " b cot#
4. S! #..# u '!d-#nt!:
û = minu
1
2∥u∥
2+C ∑
i=1
n
(ζi+ζ i!
) st
5. S! #..# v '!d-#nt!: SVD d! X X u
X X u > QDP F v > QP
16. S! #ctu#.-"# .# d-6!r!nc-# !ntr! u 4 v
dif uv=∑i=1
m
(ui−vi )/(∣u∣2∣v∣2)
11. end
1'. S! nor'#.-"# u 4 s! $u#rd# !n -
1(. S! d!6.#ct# +: X = X- uT vX
14. end
1. S! c#.cu.#n .#s co'1on!nt!s 1r-nc-1#.!s '!d-#nt! , -T+
abla 2: Pse"docódi4o de la implementación al4oritmo 6 -PCA de!lactado.
{
v x i −uT x i ε + ζ i
uT x i −v x i ε + ζi
!
ζi , ζ i! " 0
-
8/18/2019 Analisis Componentes Principales
67/130
JJ PCA
1. Const#nt!s -n-c-#.!s: cot# 0a0/
'. P#rt-'os d! .# '#tr-" d! d#tos +
(. S! !.-'-n# .# '!d-# d! +
0. S! !.-$! !. n'!ro
-
8/18/2019 Analisis Componentes Principales
68/130
CAPTULO J: E5PERIMENTOS SPCA
K
-
8/18/2019 Analisis Componentes Principales
69/130
Capítulo 0/&perimentos PCA
A cont-nu#c-&n s! 1r!s!nt#n .os !
-
8/18/2019 Analisis Componentes Principales
70/130
CAPTULO : E5PERIMENTOS SPCA
!s1!c26-co 1#r# o1t-'-"#c-&n) ..#'#do Mos! Q+ Mos! !s un# !rr#'-!nt# 9u! 1!r'-t! .#
r!so.uc-&n !6-c-!nt! d! 1ro,.!'#s d! o1t-'-"#c-&n '#t!'át-c# P#r# .# r!so.uc-&n d! .# d!.
1r-'!r 1#so d!. SPCA s! !'1.!#rá un# 6unc-&n 1#rt-cu.#r 1#r# 1ro$r#'#c-&n cu#drát-c#
Un# cons-d!r#c-&n d!ntro d!. t-1o d! #.$or-t'o 9u! s! 7# ut-.-"#r !n !stos !
-
8/18/2019 Analisis Componentes Principales
71/130
0 SIMULACI8N CON DATOS ARTIFICIALES
En 1r-'!r .u$#r s! cr!#n tr!s 6#ctor!s ocu.tos) V0) V* 4 VJ) s!$n:
V0 j N>/) */) V* j N>/) J//
VJ /JV0 k /*+V* k (, ( ) *+0, 300
-1, -2 y ( son independientes.
A cont-nu#c-&n s! $!n!r#n 0/ 7#r-#,.!s d! .# s-$u-!nt! 6or'#:
i / -1 (1i, (i
1 ) *+0, 1, i / 1,2,3,,
i / -2 (2i, (i
2 ) *+0, 1, i / ,,4,5,
i / -3 (3i, (i
3 ) *+0, 1, i / 6,10,
7( &i8 son independientes, & / 1,2,3 i / 1,...,10.
P#r# r!#.-"#r !. !
-
8/18/2019 Analisis Componentes Principales
72/130
CAPTULO : E5PERIMENTOS SPCA
7#r-#,.!s d!. 6#ctor 8 # 4 .# s!$und# co'1on!nt! ut-.-c! .#s cu#tro 7#r-#,.!s d!. 6#ctor 8 $
En .# F-$ur# 0/ s! # r!1r!s!nt#do .# !7o.uc-&n d! .# 7#r-#n"# s!$n .# 0 !'1.!#d# S!
1u!d!n o,s!r7#r c.#r#'!nt! .os 1untos !
-
8/18/2019 Analisis Componentes Principales
73/130
0 SIMULACI8N CON DATOS ARTIFICIALES
F-n#.'!nt! !n .# F-$ur# 0* r!co$! .# -n6or'#c-&n o,t!n-d# !n .#s F-$ur#s 0/ 4 00
'ostr#ndo !. n'!ro d! 7#.or!s no nu.os !n c#d# 7!ctor d! 1ro4!cc-&n) #s2 co'o !.
1orc!nt#(! d! 7#r-#n"# #(ust#d# 1#r# c#s# co'1on!nt! S! 1u!d! o,s!r7#r co'o .#
!7o.uc-&n d!. n'!ro d! co!6-c-!nt!s no nu.os 4 d!. 7#.or d!. 1orc!nt#(! d! 7#r-#n"#
!
-
8/18/2019 Analisis Componentes Principales
74/130
CAPTULO : E5PERIMENTOS SPCA
Un# 7!" s!.!cc-on#d#s .#s .#',d#s 1#r# c#d# un# d! .#s dos 1r-'!r#s d! .#s
co'1on!nt!s 1r-nc-1#.!s) !n !st! c#so 0 >+) 0) s! 1roc!d! # o,t!n!r .os 7#.or!s d!
.#s nu!7#s 7#r-#,.!s cont!n-d#s !n !..#s Los r!su.t#dos s! d!t#..#n !n .# T#,.# ) dond!
t#',-én s! 'u!str#n .#s tr!s 1r-'!r#s co'1on!nt!s 1r-nc-1#.!s #..#d#s con !. PCA
or-$-n#. # 'odo d! co'1#r#c-&n
PCA SPCA
PC0 PC* PCJ PC0 PC*
50 /)0JJ /) /)/K /)/ /)+
5* /)0JJ /) /)/K /)/ /)+
5J /)0JJ /) /)/K /)/ /)+5 /)0JJ /) /)/K /)/ /)+
5+ /)JKK /)0+ /)** /)+ /)/
5 /)JKK /)0+ /)*0 /)+ /)/
5 /)JKK /)0+ /)** /)+ /)/
5K /)JKK /)0+ /)*J /)+ /)/
5 /)/ /)//K /)+K/ /)/ /)/
50/ /)/ /)//K /)+K0 /)/ /)/
V#r-#n"# A(ust#d# >l +0J J //*+ /J+ JJJ
T#$ %! 9es"ltados de la sim"lación /.$ car4as y arian'a.
En .# T#,.# s! 1u!d! o,s!r7#r co'o !. SPCA o,t-!n! .# so.uc-&n -d!#. d-s1!rs# 9u!
!r# d! !s1!r#r 1#r# .#s dos 1r-'!r#s co'1on!nt!s #. -d!nt-6-c#r corr!ct#'!nt! .os
con(untos d! c#r$#s #soc-#d#s !. '-s'o 6#ctor d! ocu.to En SPC0 t!n!'os !. 6#ctor 8 # 4 sus
co!6-c-!nt!s #soc-#dos # @ 2 , @ , @ + , @ , '-!ntr#s 9u! !n SPC* t!n!'os @ $ , @ # , @ , @ / $!n!r#d#s #
1#rt-r d! 8 $ .
L# 7#r-#n"# !
-
8/18/2019 Analisis Componentes Principales
75/130
0 SIMULACI8N CON DATOS ARTIFICIALES
Estos dos 1#rá'!tros !stán contr#1u!stos 1or9u! cu#nt#s 'ás -t!r#c-on!s s! r!#.-c!n '!(or
s!rá .# s-'-.-tud !ntr! u 4 v) 4 'ás t-!'1o dur#rá .# !(!cuc-&n Por !stos 'ot-7os #4 9u!
!ncontr#r un co'1ro'-so !ntr! #',os 7#.or!s L# !.!cc-&n d! !st! co'1ro'-so no !st#
su(!to # n-n$un# r!$.# !s1!c26-c# d!1!nd-!ndo d!. co'1ort#'-!nto d!. #.$or-t'o SPCA 1#r#
c#d# 1ro,.!'# !n 1#rt-cu.#r 4 c#',-#ndo con c#d# con(unto d! d#tos Por !(!'1.o) .#
!.!cc-&n d! un 7#.or d! 0/ + 1#r# .# d-6!r!nc-# !ntr! u 4 v 4 un 'á/) /i+ o 0 Otr# 6or'# d! -n-c-#.-"#r v !s ut-.-"#r
.# so.uc-&n d!. PCA or-$-n#. QJ/ ;#4 9u! !s1!c-6-c#r 9u! .# -n-c-#.-"#c-&n # 1#rt-r d! .#
so.uc-&n d!. PCA or-$-n#. 9u! s! ut-.-"# !s .# v 6-n#. 9u! s! o,t-!n! cu#ndo s! #..#n .#s PC 4
no .#s PC !n s- '-s'#s
Con .# -nt!nc-&n d! d-.uc-d#r cuá. d! .#s -n-c-#.-"#c-on!s 1ro1u!st#s 1ro7oc# un '!(orco'1ort#'-!nto d!. #.$or-t'o SPCA s! #n co'1#r#do .os t-!'1os d! con7!r$!nc-# d!.
#.$or-t'o 4 !. t-!'1o 9u! t#rd#,#n !n !ncontr#r .# '-s'# so.uc-&n Son dos
co'1ro,#c-on!s d-6!r!nt!s 1or9u! !. t-!'1o d! con7!r$!nc-# !stá d!t!r'-n#do 1or .#
su1!r#c-&n d! .# s-'-.-tud !ntr! u 4 v d! un d!t!r'-n#do u',r#. 1r!!st#,.!c-do M-!ntr#s
9u! !. t-!'1o d! !(!cuc-&n d!1!nd! d! .o s! t#rd! !n !ncontr#r un# '-s'# so.uc-&n 7á.-d#
co'n 1#r# tod#s .# -n-c-#.-"#c-on!s s-n d!1!nd!r d! n-n$n .2'-t! d! con7!r$!nc-# n-
n'!ro 'á
-
8/18/2019 Analisis Componentes Principales
76/130
CAPTULO : E5PERIMENTOS SPCA
En 1r-'!r .u$#r s! !stud-#rán .os t-!'1os d! con7!r$!nc-# 1#r# c#d# un# d! .#s tr!s
1r-'!r#s co'1on!nt!s 1r-nc-1#.!s d-s1!rs#s 4 !. t-!'1o tot#. !'1.!#do 1#r# c#d#
-n-c-#.-"#c-&n
In-c-#.-"#c-&nA 1#rt-rd!. PCA
Todo / Todo # /+ Todo # 0 A.!#tor-o
PC0 *)0+ 0)+JK 0)+0 0)++ 0)+/K
PC* 0)++ 0)++ 0)+00 0)+J+ 0)J
PCJ 0)J*J 0)+J0/ 0)00 0)+J* 0)*
Tot#. +)JJJ )+/0 )K/ )++/ )***
abla : iempo de coner4encia (en se4"ndos) empleado por el SPCA para Eallar cada "na de las tres primeras
componentes principales dependiendo de la iniciali'ación de v .
En .# T#,.# K s! 1u!d! o,s!r7#r co'o 1#r# .# 1r-'!r# co'1on!nt! d-s1!rs# .#
-n-c-#.-"#c-&n 6-(# 9u! 1ro7oc# un t-!'1o d! !(!cuc-&n '!nor !s .# -n-c-#.-"#c-&n con tod#s
.#s 7#r-#,.!s # c!ro Es .&$-co 1u!s s!-s d! .#s d-!" 7#r-#,.!s s! #c!n c!ro L# s!$und#
-n-c-#.-"#c-&n con .# 9u! '!nos t-!'1o !'1.!# .# !(!cuc-&n !s con tod#s .#s co'1on!nt!s #
/i+ 4# 9u! .#s cu#tro 7#r-#,.!s 9u! no son nu.#s #d9u-!r!n d-co 7#.or L# -n-c-#.-"#c-&n
us#ndo !. PCA no d# ,u!nos r!su.t#dos d!,-do # .# $r#n d-6!r!nc-# !ntr! .os r!su.t#dos d!.
PCA 4 d!. SPCA L#s -n-c-#.-"#c-on!s #.!#tor-#s o6r!c!n un# #'1.-# $#'# d! r!su.t#dos 1!ro
9u! !n tér'-no '!d-o su t-!'1o !s -n6!r-or #. r!sto d! -n-c-#.-"#c-on!s D!1!nd!rá d! .#
1ro
-
8/18/2019 Analisis Componentes Principales
77/130
0 SIMULACI8N CON DATOS ARTIFICIALES
!. o,t!n-do !n !. #1#rt#do #nt!r-or) 4 9u! s! 'u!str# !n .# T#,.# ) 1or .o 9u! s! ut-.-"#n .os
'-s'os 1#rá'!tros >-t!r#c-on!s '2n-'#s 4 'á
-
8/18/2019 Analisis Componentes Principales
78/130
CAPTULO : E5PERIMENTOS SPCA
t-!'1os d! .#s -n-c-#.-"#c-on!s tr-7-#.!s co'o 1#r# !. t-!'1o d! con7!r$!nc-# Aor# !.
t-!'1o 1ro'!d-o o,t!n-do d! .#s -n-c-#.-"#c-on!s #.!#tor-#s no !s !. -n6!r-or !n n-n$un# d!
.#s co'1on!nt!s 1r-nc-1#.!s
F-n#.'!nt!) r!s1!cto # .os t-!'1os tot#.!s d! !(!cuc-&n 7!'os 9u! todos !stán 'u4
1r&
-
8/18/2019 Analisis Componentes Principales
79/130
* SIMULACI8N EN PROBLEMAS CON MÁS VARIABLES WUE OBSERVACIONES
SPCA D!6.#ct#do SPCA !n B.o9u!
PC0 PC* PCJ PC0 PC* PCJ
50 /)/ /)+ /)/ /)/ /)+ /)/K
5* /)/ /)+ /)/ /)/ /)+ /)/K
5J /)/ /)+ /)/ /)/ /)+ /)/K
5 /)/ /)+ /)/ /)/ /)+ /)/K
5+ /)+ /)/ /)/ /)+ /)/ /)J
5 /)+ /)/ /)/ /)+ /)/ /)J
5 /)+ /)/ /)/ /)+ /)/ /)J
5K /)+ /)/ /)/ /)+ /)/ /)J
5 /)/ /)/ /)/ /)/ /)/ /)K
50/ /)/ /)/ /)/ /)/ /)/ /)K
V#r-#n"# A(ust#d# >l /J+ JJJ */J0 K)K )0 J)K
T#$ 11! Comparación entre las PC del SPCA He!lactado y del SPCA en blo"e
En .# T#,.# s! 1u!d! o,s!r7#r co'o .os 7!ctor!s d! 1ro4!cc-&n d!. SPCA d!6.#ct#do
son c.#r#'!nt! orto$on#.!s '-!ntr#s 9u! .#s co'1on!nt!s d!. SPCA !n ,.o9u! no .o son !n
su tot#.-d#d E. t!rc!r 7!ctor d! 1ro4!cc-&n d-s1!rs# d! .# 7!rs-&n !n ,.o9u! !s !. 9u! ro'1!
.# orto$on#.-d#d P#r# !st! !(!'1.o no t!ndr2# !V0 4 V* S-n !',#r$o) 1#r# otros 1ro,.!'#s dond! s! r!9u-!r#n .#
ut-.-"#c-&n d! un '#4or n'!ro d! co'1on!nt!s 1r-nc-1#.!s d-s1!rs#s s- 9u! s!r2# d! $r#n
#4ud# ut-.-"#r !. SPCA d!6.#ct#do !n .u$#r d!. SPCA !n ,.o9u!
0.' imulación en problemas con m"s
variables #ue observaciones
En !st! #1#rt#do s! 7# # !stud-#r !. 6unc-on#'-!nto d!. #.$or-t'o SPCA cu#ndo .os
d#tos 1os!!n un n'!ro 'uco '#4or d! 7#r-#,.!s 9u! d! o,s!r7#c-on!s P#r# d#tos con
!st! 1ro,.!'# !ntr# !n (u!$o !. 1#rá'!tro *) #. 9u! s! .! #s-$n#rá un 7#.or 1os-t-7o D! !st#
6or'#) s! 1u!d! !stud-#r !. con(unto co'1.!to d! 7#r-#,.!s !n 7!" d! so.o un n'!ro
'á
-
8/18/2019 Analisis Componentes Principales
80/130
CAPTULO : E5PERIMENTOS SPCA
no nu.#s !n .os nu!7os 7!ctor!s d! 1ro4!cc-&n con co!6-c-!nt!s d-s1!rsos
En !st# s-'u.#c-&n con d#tos #rt-6-c-#.!s s! # 1.#nt!#do un !sc!n#r-o s-'-.#r #. d!.
#1#rt#do 0 P!ro # d-6!r!nc-# d! ést! s! 9u-!r! co'1ro,#r s- !. #.$or-t'o SPCA 1u!d!
6unc-on#r con un '!nor n'!ro d! o,s!r7#c-on!s 9u! d! 7#r-#,.!s S! ,usc#rá !. corr!cto
6unc-on#'-!nto d!. SPCA #. !'1.!#r un 'á
-
8/18/2019 Analisis Componentes Principales
81/130
* SIMULACI8N EN PROBLEMAS CON MÁS VARIABLES WUE OBSERVACIONES
So.#'!nt! s! 7!r-6-c#rá !. co'1ort#'-!nto d! .#s dos 1r-'!r#s co'1on!nt!s d-s1!rs#s
1or9u! !n .# t!rc!r# co'1on!nt! !. !stud-o s!r2# !. '-s'o) 1or .o t#nto r!1!t-t-7o 4 no
#1ort#r2# nu!7# -n6or'#c-&n E. r!sto d! co'1on!nt!s no s! #n#.-"#rán d!,-do # 9u! 4# no
cont!ndrán -n6or'#c-&n -'1ort#nt!) #. !st#r !stá cont!n-d# !n .#s tr!s 1r-'!r#s
co'1on!nt!s #soc-#d#s con .os tr!s 6#ctor!s ocu.tos -nd!1!nd-!nt!s
S! 7# # co'!n"#r !. #ná.-s-s 1ro,#ndo co'o !7o.uc-on#n .#s dos 1r-'!r#s
co'1on!nt!s d-s1!rs#s cu#ndo * !s nu.# Es d!c-r) s! us#rá n-c#'!nt! .# r!$u.#r-"#c-&n 5$
lasso 1or .o 9u! !
-
8/18/2019 Analisis Componentes Principales
82/130
CAPTULO : E5PERIMENTOS SPCA
7#.or #u'!nt# s! r!duc!n su#7!'!nt! !. n'!ro d! 7#r-#,.!s no nu.#s
En .# F-$ur# ** s! 1u!d! co'1ro,#r co'o 1#r# !. c#so d! +// o,s!r7#c-on!s s-
!stud-#'os .os 7#.or!s d! tod#s .#s c#r$#s d! .# 1r-'!r# co'1on!nt! 1r-nc-1#. d-s1!rs#
1#r# !. 7#.or #d!cu#do d! 0 !n !. 9u! s! o,t-!n!n 0// co!6-c-!nt!s no nu.os Est#s c#r$#s no
nu.#s co-nc-d!n con .os co!6-c-!nt!s #soc-#dos #. 6#ctor ocu.to con '#4or 7#r-#n"#) !n !st!
c#so VJ
S-n !',#r$o) cu#ndo s! us#n so.#'!nt! *+/ o,s!r7#c-on!s) un n'!ro '!nor 9u! !.
d! 7#r-#,.!s !n c#d# o,s!r7#c-&n) .#s c#r$#s ut-.-"#d#s 1or !. #.$or-t'o s! r!duc!n
,rusc#'!nt! #. #u'!nt#r 0 Esto ocurr! !n torno #. 7#.or d! 0 d! 0/+) dond! !. #.$or-t'o
!'1.!# *+/ c#r$#s Est! n'!ro d! c#r$#s no nu.#s s! '#nt-!n! #st# !. 7#.or d! 0 d! 0/*
cu#ndo 1ros-$u! .# r!ducc-&n d! c#r$#s no nu.#s #. -$u#. 9u! ocurr! !n .os c#sos d! 0/// 4+// o,s!r7#c-on!s
Por .o t#nto) s! 1u!d! !st#,.!c!r 9u! !
-
8/18/2019 Analisis Componentes Principales
83/130
* SIMULACI8N EN PROBLEMAS CON MÁS VARIABLES WUE OBSERVACIONES
S! !ncu!ntr# un co'1ort#'-!nto s-'-.#r #. d!. c#so d! *+/ o,s!r7#c-on!s !n .os c#sos
d! 0//) +/ 4 *+ o,s!r7#c-on!s En .# F-$ur# *J s! #n d-,u(#do .#s !7o.uc-on!s d! !stos
c#sos !n .os 9u! t#',-én !
-
8/18/2019 Analisis Componentes Principales
84/130
CAPTULO : E5PERIMENTOS SPCA
c#r$#s no nu.#s d!sc-!nd! su#7!'!nt! # '!d-d# 9u! #u'!nt# 0 M-!ntr#s 9u! 1#r# .os
c#sos !n .os 9u! s! tr#,#(# con un '!nor n'!ro d! o,s!r7#c-on!s 9u! d! 7#r-#,.!s !
-
8/18/2019 Analisis Componentes Principales
85/130
* SIMULACI8N EN PROBLEMAS CON MÁS VARIABLES WUE OBSERVACIONES
A cont-nu#c-&n s! r!1!t-rá !. !
-
8/18/2019 Analisis Componentes Principales
86/130
CAPTULO : E5PERIMENTOS SPCA
En .# F-$ur# * s! 'u!str# .# !7o.uc-&n d!. n'!ro d! c#r$#s no nu.#s cu#ndo
!'1.!#'os so.o +/ o,s!r7#c-on!s P#r# todos .os 7#.or!s d! * ut-.-"#dos 1od!'os 7!r co'o
!. #.$or-t'o !s c#1#" d! s!.!cc-on#r tod#s .#s 7#r-#,.!s s-n !
-
8/18/2019 Analisis Componentes Principales
87/130
* SIMULACI8N EN PROBLEMAS CON MÁS VARIABLES WUE OBSERVACIONES
7#.or!s d! .#s c#r$#s cu#ndo t!n!'os !n torno # 0// c#r$#s no nu.#s
S! 1u!d! o,s!r7#r !. /l d! .#s c#r$#s no nu.#s 1!rt!n!c!n # .# 6r#n(# !ntr! */0 4 J//)
.o 9u! s-$n-6-c# 9u! !stán #soc-#d#s #. 6#ctor ocu.to V J Los !rror!s 9u! s! 7!n !stán
d!t!r'-n#dos 1or !. ru-do o .# c!rc#n2# !n .# 7#r-#n"# d! .os 6#ctor!s ocu.tos ;#4 9u! t!n!r
!n cu!nt# 9u! 1#r# !st! c#so ut-.-"#'os 'u4 1oc#s o,s!r7#c-on!s 1or .o 9u! t!n!'os 'u4
1ocos d#tos 1or 7#r-#,.! 1ro7oc#ndo 9u! s!# 'ás 6ác-. con6und-r .os 6#ctor!s 4 no
s!.!cc-on#r !. corr!cto
Co'o 1#r# * nu.#) t#',-én s! # co'1ro,#do !. 6unc-on#'-!nto 1#r# .# s!$und#
co'1on!nt! d-s1!rs# 4 d! !st# 6or'# #s!$ur#rnos 9u! .os r!su.t#dos o,t!n-dos 1#r# .#
1r-'!r# co'1on!nt! no son c#su#.!s
En .# F-$ur# * !stán d-,u(#d#s .#s cur7#s con .# !7o.uc-&n d! .#s c#r$#s no nu.#s s!$n#u'!nt# 0 1#r# * -$u#. # /0) 0) 0/) 0// 4 0/// S! 1u!d! 7!r-6-c#r 9u! !. co'1ort#'-!nto
K
Figura '1: E7o.uc-&n d!. n'!ro d! c#r$#s no nu.#s d! SPC* 1#r# d-6!r!nt!s 0 4 * ut-.-"#ndo +/o,s!r7#c-on!s
10,7
10,6
10,5
10,4
10,3
10,2
10,1
100
101
0
500
Componente Principal 2. 2- 0.1 / '- 50
1
a r i a
l e s
o
l a s
10,7
10,6
10,5
10,4
10,3
10,2
10,1
100
101
0
500
Componente Principal 2. 2- 1 / '- 50
1
a r i a
l e s
o
l a s
10,7
10,6
10,5
10,4
10,3
10,2
10,1
100
101
0
500
Componente Principal 2. 2- 10 / '- 50
1
a r i a
l e s
o
l a s
10
,7
10
,6
10
,5
10
,4
10
,3
10
,2
10
,1
10
0
10
10
500
Componente Principal 2. 2- 100 / '- 50
1
a r i a
l e s
o
l a s
10,7
10,6
10,5
10,4
10,3
10,2
10,1
100
101
0
500
Componente Principal 2. 2- 1000 / '- 50
1
a r i a
l e s
o
l a s
C
a ( a s n o n l a s
C a ( a s n o n l a s
C a ( a s n o n l a s
C a ( a s n o n l a s
C a ( a s n o n l a s
-
8/18/2019 Analisis Componentes Principales
88/130
CAPTULO : E5PERIMENTOS SPCA
d! !st#s cur7#s !s s-'-.#r #. 9u! s-$u!n .#s cur7#s d! SPC0 r!1r!s!nt#d#s !n .# F-$ur# * L#
d-6!r!nc-# 'ás not#,.! !s 9u!) !
-
8/18/2019 Analisis Componentes Principales
89/130
J SIMULACI8N CON BASES DE DATOS REALES
0.( imulación con bases de datos reales;#st# #or# s! #n 1r!s!nt#do dos !(!'1.os d! s-'u.#c-on!s con d#tos #rt-6-c-#.!s
cr!#dos !s1!c26-c#'!nt! 1#r# co'1ro,#r !. 6unc-on#'-!nto d!. SPCA d! d-st-ntos 1untos d!
7-st# En !st# .t-'# s-'u.#c-&n d! !st! c#12tu.o s! 7# # co'1ro,#r !. co'1ort#'-!nto d!.
SPCA #. s!r !'1.!#do so,r! cu#tro ,#s!s d! d#tos r!#.!s
P#r# #n#.-"#r .#s 7!nt#(#s) o -ncon7!n-!nt!s) d! su #1.-c#c-&n !n un !ntorno r!#.) s!
-nc.u-rá !n !. !stud-o un# !t#1# 1ost!r-or d! c.#s-6-c#c-&n 4 s! #n#.-"#rá !. !rror 6-n#. d!.c.#s-6-c#dor cu#ndo s! us#n co'o !ntr#d# .#s 1ro4!cc-on!s 1ro1orc-on#d#s 1or !. SPCA
P#r# conoc!r .# c#.-d#d d!. SPCA s! co'1#r#rán sus r!su.t#dos con .os PCA or-$-n#.
T#',-én s! cont!'1.#rá !. c#so d!. c.#s-6-c#dor s-n n-n$un# !t#1# d! 1r!1roc!s#do
P#r# co'1#r#r .os d-st-ntos 'étodos s! # ut-.-"#do un c.#s-6-c#dor .-n!#. ,#s#do !n
'á9u-n#s d! 7!ctor!s d! so1ort! S! us#rá !s1!c26-c#'!nt! !. c.#s-6-c#dor SVM d!6-n-do !n
.# .-,r!r2# LIBSVM cr!#d# 1or C-Cun$ C#n$ #nd C-!n L-n Q+
L#s ,#s!s d! d#tos ut-.-"#d#s 1!rt!n!c!n #. r!1os-tor-o UCI 4 son: O1t-c#. r!co$n-t-on o6#ndr-tt!n d-$-ts >#nd) D!r'#to.o$4 >-on) St#t.o$ m L#nds#t S#t!..-t! >.#ndst#t 4
G#7!6or' D#t#,#s! %!n!r#tor >#7! Tod#s !st#s ,#s!s d! d#tos cont-!n!n d#tos r!#.!s
9u! 1u!d! s!r c.#s-6-c#dos !n dos $ru1os
Con !. o,(!t-7o d! s!.!cc-on#r .os 7#.or!s d! .os 1#rá'!tros 'ás #d!cu#dos t#nto d!.
#.$or-t'o SPCA >0 co'o d!. c.#s-6-c#dor >C s! # !'1.!#do un# 7#.-d#c-&n cru"#d# d! +
-t!r#c-on!s E. 1#rá'!tro C d!. c.#s-6-c#dor SVM 1ond!r# .# su#7-d#d d! .# so.uc-&n con !.
n'!ro d! !rror!s 1!r'-t-dos
A cont-nu#c-&n s! 'u!str#n .#s $rá6-c#s d! .# !7o.uc-&n d!. !rror d! c.#s-6-c#c-&n
d!1!nd-!ndo d!. n'!ro d! co'1on!nt!s 1r-nc-1#.!s ut-.-"#d#s P#r# todos .os con(untos
d! d#tos s! #n !stud-#do .#s 1r-'!r#s d-!" co'1on!nt!s 1r-nc-1#.!s) #. cont!n!r !st#s 'ás
d!. l d! .# 7#r-#n"# d! .os d#tos d! !ntr#d#
K
-
8/18/2019 Analisis Componentes Principales
90/130
CAPTULO : E5PERIMENTOS SPCA
/
1 2 3 4 5 6 7 8 9 100
0.2
0.4
0.6
0.8
1
1.2
1.4
1.6
1.8
2
* r r o r
PC
. - .
1 2 3 4 5 6 7 8 9 100
10
20
30
40
50
60
70
80
90
100
5 c
o e " . n o n l o s
1 2 3 4 5 6 7 8 9 100
0.5
1
1.5
2
2.5
3
PC
* r r o r
. - .
*rror '+
*rror PCA
*rror 'PCA
1 2 3 4 5 6 7 8 9 100
0.2
0.4
0.6
0.8
1
1.2
1.4
1.6
1.8
2
* r r o r
PC
- .
1 2 3 4 5 6 7 8 9 100
10
20
30
40
50
60
70
80
90
100
5 c
o e " . n o n l o s
7on a8 7on b8
9an!sat a8 9an!sat b8
1 2 3 4 5 6 7 8 9 100.2
0.4
0.6
0.8
1
1.2
1.4
1.6
1.8
PC
* r r o r
. - .
*rror '+
*rror PCA
*rror 'PCA
1 2 3 4 5 6 7 8 9 100
0.2
0.4
0.6
0.8
1
1.2
1.4
1.6
1.8
2
P * +
PC
. - .
1 2 3 4 5 6 7 8 9 100
10
20
30
40
50
60
70
80
90
100
5 c
o e " . n o n l o s
Figura '(: E7o.uc-&n d! c.#s-6-c#c-&n s!$n !. n'!ro d! co'1on!nt!s 1r-nc-1#.!s ut-.-"#d#s 1#r# !. SPCA) PCA 4us#ndo n-c#'!nt! !. c.#s-6-c#dor SVM) $rá6-c#s # Error d! c.#s-6-c#c-&n 4 1orc!nt#(! d! c#r$#s no nu.#s !n .#s
co'1on!nt!s 1r-nc-1#.!s s!$n !. n'!ro d! co'1on!nt!s 1r-nc-1#.!s d!. SPCA) $rá6-c#s ,
1 2 3 4 5 6 7 8 9 100.8
1
1.2
1.4
1.6
1.8
2
PC
* r r o r
- .
*rror '+
*rror PCA
*rror 'PCA
1 2 3 4 5 6 7 8 9 100
0.2
0.4
0.6
0.8
1
1.2
1.4
1.6
1.8
2
* r r o r
PC
. - .
1 2 3 4 5 6 7 8 9 100
10
20
30
40
50
60
70
80
90
100
5 c
o e " . n o n l o s
-
8/18/2019 Analisis Componentes Principales
91/130
J SIMULACI8N CON BASES DE DATOS REALES
L# 1r-'!r# conc.us-&n 9u! s! 1u!d! !
-
8/18/2019 Analisis Componentes Principales
92/130
CAPTULO : E5PERIMENTOS SPCA
ut-.-"#n un n'!ro !s1!c26-co d! co'1on!nt!s 1r-nc-1#.!s !n .# !t#1# d! 1r!1roc!s#do 1#r#
c#d# c#so) s! o,t-!n! un !rror 'u4 c!rc#no #. d!. c.#s-6-c#dor d-r!cto us#ndo un !s1#c-o d!
d#tos 'u4 r!duc-do co'1#r#do con !. !s1#c-o -n-c-#. d! d#tos
Es !7-d!nt! 9u! 1#r# con(untos d! d#tos con 1oc#s 7#r-#,.!s -ntroduc-r un# !t#1# d!
1r!1roc!s#do d! !st! t-1o no !s !6-c-!nt!) 1!ro !n .# #ctu#.-d#d .#s ,#s!s d! d#tos su!.!n
cont#r con un n'!ro 'u4 !.!7#do d! d-'!ns-on!s .o 9u! #c! 9u! .# -ntroducc-&n d!
!t#1#s co'o !. PCA o SPCA no so.o son t-.!s s-no n!c!s#r-#s %r#c-#s #. !'1.!o d! '!nos
d-'!ns-on!s d! !ntr#d#) !st#s !t#1#s d! 1r!1roc!s#do 6#c-.-t#n !. !ntr!n#'-!nto d!.
c.#s-6-c#dor #. r!duc-r su cost! d! !ntr!n#'-!nto Ad!'ás s- !n !. á',-to d! .# ,#s! d! d#tos
!s n!c!s#r-o -nt!r1r!t#r .#s 7#r-#,.!s !n !. r!sto d!. s-st!'#) con !. uso d!. SPCA s! o,t-!n!un# r!ducc-&n cons-d!r#,.! d! .#s d-'!ns-on!s '-!ntr#s s! conoc! 9u! 7#r-#,.!s or-$-n#.!s
-nt!r7-!n!n !n c#d# co'1on!nt! 1r-nc-1#.
*
-
8/18/2019 Analisis Componentes Principales
93/130
J SIMULACI8N CON BASES DE DATOS REALES
J
-
8/18/2019 Analisis Componentes Principales
94/130
Capítulo /&perimentos
-
8/18/2019 Analisis Componentes Principales
95/130
+0 SIMULACI8N CON DATOS BIDIMENSIONALES
.1 imulación en un e!emplo sint%tico
bidimensionalEst! 1r-'!r !
-
8/18/2019 Analisis Componentes Principales
96/130
CAPTULO +: E5PERIMENTOS PCA
A cont-nu#c-&n s! 'u!str# .# F-$ur# * dond! s! #n r!1r!s!nt#dos .os d#tos s-n ru-do
(unto con .#s dos co'1on!nt!s 1r-nc-1#.!s d! c#d# 'étodo Los 7#.or!s d! .os 1#rá'!tros
s!.!cc-on#dos 1#r# ..!7#r # c#,o !. PCA son C -$u#. # 0 4 # 0 Co'o s! 7!rá !n .# s!$und#
1#rt! d! !st! !i!o
PC2 PCA 'in >i!o
-
8/18/2019 Analisis Componentes Principales
97/130
+0 SIMULACI8N CON DATOS BIDIMENSIONALES
PCA EPCA
PC0 PC* PC0 PC*
50 /**K0 /J /* /+
5* /J /**K0 /+ /*
V#r-#n"# >l K+K 0JJ0 K*K+ 0J0
D-6!r!nc-# Cos!no 0 0 /K /K
T#$ 1"! 9es"ltados del PCA y del 6-PCA para datos sin r"ido. Se m"estran las car4as y la arian'a de cadacomponente, así como la desiación respecto de la dirección de máxima arian'a.
En .# F-$ur# *+ !stán .#s co'1on!nt!s 1r-nc-1#.!s cu#ndo s! -ntroduc! ru-do -'1u.s-7o
so,r! .# s!$und# 7#r-#,.! Est! ru-do t-!n! .# '-s'# 1ot!nc-# 9u! .# 7#r-#,.! 5 * Ad!'ás s!
'u!str#n t#',-én .#s co'1on!nt!s PCA cu#ndo no #4 ru-do 1#r# no 1!rd!r .# r!6!r!nc-#
d! cu#. !s !. o,(!t-7o Est! o,(!t-7o no s!rá otro 9u! .#s co'1on!nt!s EPCA cu#ndo #..#
ru-do s! d!s72!n 'u4 1oco d! .#s d-r!cc-on!s d! 'ál K0/K 0K0 JK+ J/0
D-6!r!nc-# Cos!no /K /K /+ /+
T#$ 1! 9es"ltados del PCA y del 6-PCA para datos con r"ido imp"lsio. Se m"estran las car4as y la arian'a de
cada componente, así como la desiación respecto de la dirección de máxima arian'a.
En !. s!$undo !
-
8/18/2019 Analisis Componentes Principales
98/130
CAPTULO +: E5PERIMENTOS PCA
!s1!c26-cos T#',-én s! 'ostr#rán .#s co'1on!nt!s 1r-nc-1#.!s d!. PCA s-n ru-do -'1u.s-7o
1#r# 1od!r 7!r !. r!su.t#do &1t-'o 9u! s! 1r!t!nd! #.c#n"#r
En 1r-'!r .u$#r s! !'1.!#rá ru-do -'1u.s-7o con .# '-s'# 1ot!nc-# 9u! 5 * L#s $rá6-c#s
r!su.t#nt!s 1#r# .os 7#.or!s d!. cost! >C 4 s! !ncu!ntr#n !n .# F-$ur# *
En .# T#,.# 0 s! 'u!str#n .os r!su.t#dos nu'ér-cos d! .# d!s7-#c-&n S! 1u!d!
co'1ro,#r) t#nto !n .# F-$ur# * co'o !n .# T#,.# 0) 9u! 1#r# !st! c#so !. 1#rá'!tro 'ás
-n6.u4!nt! !s 1or9u! 1#r# 7#.or!s -n6!r-or!s # /i//0 !. PCA !ncu!ntr# co'1on!nt!s 9u!
t-!n!n d-r!cc-&n &1t-'# P#r# un 7#.or d! -$u#. # 0 .os r!su.t#dos no son .os &1t-'os Esto
!s d!,-do # 9u! t-!n! un 'u4 #.to 4 1!r'-t! 9u! s! to.!r!n !rror!s d! #st# un 7#.or
#,so.uto d! 0 S-n !',#r$o) 1#r# .os cost!s d! 0/ 4 0//) 4 !. r!sto d! 7#.or!s d! ) .#
d!s7-#c-&n !s '!nor 9u! .# d! .#s co'1on!nt!s d!. PCA >T#,.# 0 En cu#nto .os !rror!s
1!n#.-"#n) !. 1ro,.!'# d! o1t-'-"#c-&n t-!n! !n cu!nt# .os !rror!s 4 !'1-!"# # r!co.oc#rs!
Co'o !. ru-do !s -'1u.s-7o 4 !. cost! !s .-n!#. con .os !rror!s) !s#s so.uc-on!s t-!nd!n # .#
&1t-'#
K
Figura '2: %rá6-c#s d! .#s co'1on!nt!s 1r-nc-1#.!s d! PCA 4 PCA 1#r# d#tos con ru-do -'1u.s-7o con 1ot!nc-#-$u#. # .# d! 5*
-
8/18/2019 Analisis Componentes Principales
99/130
+0 SIMULACI8N CON DATOS BIDIMENSIONALES
C PC0 PC* PC0 PC* PC0 PC*
( 0 0)//E//J 0)//E//
0 /0K /0K 0 0 0 0
0/ / / 0 0 0 0
0// /+ /+ 0 0 0 0
T#$ 14! Hesiación de 6PC$ y 6PC# con r"ido imp"lsio con potencia i4"al a @ # , respecto de PC$ y PC# sin r"ido.
Est! co'1ort#'-!nto s! 1u!d! #n#.-"#r '!(or cu#ndo s! #u'!nt# .# 1ot!nc-# d! ru-do
-'1u.s-7o A cont-nu#c-&n s! ut-.-"#rá ru-do -'1u.s-7o con !. do,.! d! 1ot!nc-# 9u! .os d#tos
!n 5*
A. o,s!r7#r .# F-$ur# * s! co'1ru!,# 9u! un ru-do -'1u.s-7o con !. do,.! d! 1ot!nc-#
9u! 5* t-!n! un '#4or -n6.u!nc-# !n !. co'1ort#'-!nto d!. PCA 9u! !n !. c#so #nt!r-or
Aor# !. 1#rá'!tro con 'ás 1!so !n !. co'1ort#'-!nto d! .# d-r!cc-&n d! .#s co'1on!nt!s
d!. PCA !s C P#r# .#s s-'u.#c-on!s con un# C d! 0// .#s co'1on!nt!s PCA t-!n!n un#
d!s7-#c-&n r!s1!cto d! .# so.uc-&n &1t-'# c.#r#'!nt! '!nor 9u! .#s co'1on!nt!s d!. PCA
E. PCA !s c#1#" d! 1ro1orc-on#r .# so.uc-&n s-'-.#r # .# &1t-'# >#9u!..# 9u! co-nc-d!
con !. c#so s-n ru-do) 1!ro 1#r# !..os !s n!c!s#r-o #(ust#r #d!cu#d#'!nt! .os 7#.or!s d! 4
Figura '3: %rá6-c#s d! .#s co'1on!nt!s 1r-nc-1#.!s d! PCA 4 PCA 1#r# d#tos con ru-do -'1u.s-7o con1ot!nc-# do,.! # .# d! 5*
-
8/18/2019 Analisis Componentes Principales
100/130
CAPTULO +: E5PERIMENTOS PCA
C F-(#ndo un su6-c-!nt!'!nt! ,#(o >///0 & 0!) s&.o #4 9u! 1r!ocu1#rs! 1or #(ust#r
#d!cu#d#'!nt! C
C PC0 PC* PC0 PC* PC0 PC*
( 0 0)//E//J 0)//E//
0 /K*K /K*K /K** /K** /K** /K**
0/ //+ //+ /0 /0 /0 /0
0// /+0 /+0 /+ /+ /+ /+
T#$ 1(! Hesiación de 6 PC$ y 6 PC# con r"ido imp"lsio con potencia doble "e @ # , respecto de PC$ y PC# sinr"ido para r"ido.
En .# T#,.#r 0+ s! 7! co'o C 1ro1orc-on# .os '#4or!s c#',-os d! d-r!cc-&n) '-!ntr#s
9u! s-r7! 1#r# #6-n#r .os r!su.t#dos Aun9u! 1#r# .os 7#.or!s d! -$u#.!s # 0/ J 4 0/ no
#4 d-6!r!nc-#s Esto !s d!,-do # 9u! .# '#4or2# d! .#s d!s7-#c-on!s d! .os d#tos son
'#4or!s 9u! !stos 7#.or!s d! 4 s!rán contro.#d#s 1or !. PCA # tr#7és d! cost!
T#',-én s! 1u!d! s#c#r d! .# T#,.#r 0+ 9u! .#s '!nor!s d!s7-#c-on!s s! .o$r#n 1#r#
un# C d! 0// 4 d! 0/J o 0/ M-!ntr#s 9u! s! #.c#n"#n '!(or!s r!su.t#dos 9u! !n !. PCA
cu#ndo s! !'1.!# C -$u#. # 0// o 1#r# C -$u#. # 0/ 4 con un 7#.or d! 0/ J o 0/
P#r# t!r'-n#r d! #6-#n"#r !stos r!su.t#dos s! 7# # r!#.-"#r un# .t-'# s!r-! d!
s-'u.#c-on!s #u'!nt#ndo !. ru-do -'1u.s-7o #st# cu#tro 7!c!s .# 1ot!nc-# d! .# 7#r-#,.! 5*
En .# F-$ur# *K 4 !n .# T#,.# 0 s! 1r!s!nt#n .os r!su.t#dos d! !st#s s-'u.#c-on!s
Co'o 1#r# !. c#so d!. ru-do -'1u.s-7o con !. do,.! d! .# 1ot!nc-#) !. 1#rá'!tro 'ás
cr2t-co !s C D! nu!7o !.-$-!ndo su6-c-!nt!'!nt! ,#(o 4 #(ust#ndo con7!n-!nt!'!nt! C >!n
!st! c#so !n torno # 0// s! #.c#n"# .# so.uc-&n &1t-'# con un# d!s7-#c-&n '!nor 9u! .#s
co'1on!nt!s d!. PCA
E. 1#rá'!tro t-!n!n 1oc# -n6.u!nc-# !n .os c#',-os d! .# d!s7-#c-&n 1or .o 9u! !s 'u4
6ác-. d! #(ust#r Esto !s d!,-do # .# n#tur#.!"# -ntr2ns!c# d!. 1ro,.!'# 1r!s!nt#do #. !st#r
d-s!3#do d! t#. 6or'# 9u! 1#r# 7#.or!s 1!9u!3os d! .# d!s7-#c-&n d! .os d#tos s!#
'#n!(#d# 1or !. 1#rá'!tro C S! 1u!d! 7!r c.#r#'!nt! !st! !6!cto !n .# T#,.# 0 #.
cons!$u-r '!nor!s c#',-os !n .# d!s7-#c-&n cu#nto 'ás $r#nd! !s C
0//
-
8/18/2019 Analisis Componentes Principales
101/130
+0 SIMULACI8N CON DATOS BIDIMENSIONALES
C PC0 PC* PC0 PC* PC0 PC*
( 0 0)//E//J 0)//E//
0 /J/ /J/ /J+ /J+ /J+ /J+
0/ / / / / / /
0// / / /K /K /K /K
Tabla 16: &esviaci+n de 6 PC( $ 6 PC) con ruido impu!sivo con potencia cudrup!e a X ) , respecto de PC( $ PC) sinruido-
En .# T#,.# 0 s! !ncu!ntr#n .#s d!s7-#c-on!s r!s1!cto d!. r!su.t#do &1t-'o d! .#s
co'1on!nt!s 1r-nc-1#.!s d!. PCA s!$n !. ru-do -'1u.s-7o ut-.-"#do S- s! co'1#r#n !stos
r!su.t#dos con .os o6r!c-dos !n .#s T#,.#s 0) 0+ 4 0 s! 1u!d! conc.u-r 9u! 1#r# todo .#s
1ot!nc-#s d! ru-do us#d#s s! #n !ncontr#do r!su.t#dos '!(or!s !n !. PCA Ad!'ás #
'!d-d# 9u! #u'!nt#,# !. ru-do -'1u.s-7o .# d-st#nc-# !ntr! .# '!nor d!s7-#c-&n .o$r#d#
1or !. PCA 4 !. PCA #u'!nt#,# #c-!ndo 'ás 7#.-os#s .#s co'1on!nt!s PCA T#',-én
#4 9u! d!c-r 9u! .# '2n-'# d!s7-#c-&n #.c#n"#d# 1or !. PCA 1#r# .os dos c#sos con 'ás
ru-do !s s-'-.#r
0/0
Figura '4: %rá6-c#s d! .#s co'1on!nt!s 1r-nc-1#.!s d! PCA 4 PCA 1#r# d#tos con ru-do -'1u.s-7o con 1ot!nc-#cuádru1.! # .# d! 5*
-
8/18/2019 Analisis Componentes Principales
102/130
-
8/18/2019 Analisis Componentes Principales
103/130
+* SIMULACI8N EN UN EEMPLO SINTXTICO TRIDIMENSIONAL
.' imulación en un e!emplo sint%ticotridimensional
Est! s!$undo !
-
8/18/2019 Analisis Componentes Principales
104/130
CAPTULO +: E5PERIMENTOS PCA
T#nto !n !. PCA co'o !n !. PCA .# 1r-'!r# co'1on!nt! cont-!n! r!s1!ct-7#'!nt! un
Kl 4 un l d! .# 7#r-#n"#) co'o s! 'u!str# !n .# T#,.# 0 L#s otr#s dos
co'1on!nt!s 1os!!n un# c#nt-d#d d! -n6or'#c-&n d!s1r!c-#,.! 1or .o 9u! 1odr2#n s!r
o,7-#d#s s-n 1!rd!r 1ráct-c#'!nt! -n6or'#c-&n Esto !s d!,-do # 9u! #un9u! !. 'od!.o
t-!n! tr!s 7#r-#,.!s !st#s no son -nd!1!nd-!nt!s 4 d!1!nd!n d! un n-co 6#ctor ocu.to Esto
s! 1u!d! co'1ro,#r #. o,s!r7#r 9u! !. 7#.or #,so.uto d! .#s 7#r-#,.!s !n .# 1r-'!r#
co'1on!nt! concu!rd# con .#s const#nt!s 9u! !sc#.#n !. 6#ctor ocu.to 1#r# c#d# 7#r-#,.!
En .# T#,.# 0/ s! 1u!d! 7!r t#',-én co'o .#s 7#r-#,.!s !n .# co'1on!nt! 1r-nc-1#. d!.
PCA s! #1ro
-
8/18/2019 Analisis Componentes Principales
105/130
+* SIMULACI8N EN UN EEMPLO SINTXTICO TRIDIMENSIONAL
A cont-nu#c-&n s! .! #3#d! ru-do -'1u.s-7o # 5* 4 5J con un# 1ot!nc-# !9u-7#.!nt! # .#
d! .o d#tos S! #n ut-.-"#do .os '-s'os 1#rá'!tros 1#r# PCA 9u! !n .# s-'u.#c-&n s-n
ru-do En .# T#,.# */ 4 !n .# F-$ur# J/ s! 1r!s!nt#n .os r!su.t#dos
PCA EPCA
PC0 PC* PCJ PC0 PC* PCJ
50 /0/ / /K0 /0K* //K /+5* /K* /KJ /00JK /K /J /0**
5J /+J0 /KK/ /0J0 / /KK /0++
V#r-#n"#>l K+K*K 0*J 0J K+ 0*0 0J0/
D-6!r!nc-# Cos!no// //K //K+ /J / /K
T#$ "*! 9es"ltados para datos con r"ido imp"lsio.
A. #1.-c#r ru-do -'1u.s-7o !. co'1ort#'-!nto d!. PCA 4 d!. PCA !'1!or#n S-n
!',#r$o) co'o !n !. #1#rt#do #nt!r-or !. PCA !s 'ás ro,usto # .# 1r!s!nc-# d!. ru-do
-'1u.s-7o P#r# unos 1#rá'!tros 4 C s-n .os 7#.or!s &1t-'os !. PCA o6r!c! '!(or!s
r!su.t#dos 9u! !. PCA En .# 1r-'!r# co'1on!nt! 1r-nc-1#. .# d!s7-#c-&n !s '!nor
En .# s!$und# 1#rt! d! !st! !
-
8/18/2019 Analisis Componentes Principales
106/130
CAPTULO +: E5PERIMENTOS PCA
En 1r-'!r .u$#r s! !'1.!#rá ru-do -'1u.s-7o so,r! .#s 7#r-#,.!s 5 * 4 5J con 1ot!nc-#
-$u#. # !stos d#tos) co'o !n .# 1r-'!r# 1#rt! d!. !
-
8/18/2019 Analisis Componentes Principales
107/130
+* SIMULACI8N EN UN EEMPLO SINTXTICO TRIDIMENSIONAL
En .# F-$ur# J* s! 'u!str#n .#s !7o.uc-on!s d! .# d-6!r!nc-# cos!no 1#r# un ru-do
-'1u.s-7o d! do,.! 1ot!nc-# 9u! .os d#tos E. cost! 9u! o6r!c! '!(or!s r!su.t#dos !s 0// con
un# d-6!r!nc-# cos!no d! /K 1#r# -$u#. 0 4 // 1#r# !. r!sto M-!ntr#s 9u! .#
1r-'!r# co'1on!nt! d!. PCA t-!n! un# d-6!r!nc-# cos!no d! /+K
F-n#.'!nt! s- !'1.!#'os un# 1ot!nc-# d! ru-do d! cu#tro 7!c!s .# 1ot!nc-# d! .os
d#tos s! o,t-!n!n .#s !7o.uc-on!s d! .# d!s7-#c-&n d! .# 1r-'!r# co'1on!nt! d!. PCA
'ostr#d#s !n .# F-$ur# JJ
P#r# !st! .t-'o c#so d! ru-do -'1u.s-7o s! cons-$u!n .#s '!nor!s d!s7-#c-on!s 1#r#
.os s-'u.#c-on!s con cost! 0/J 4 0/ 9u! 1ro1orc-on#n .# '-s'# d-6!r!nc-# cos!no d!
/J0) const#nt! 1#r# todos .os 7#.or!s d! En !st! c#so .# d-6!r!nc-# cos!no d! .# 1r-'!r#co'1on!nt! PCA r!s1!cto d! .# so.uc-&n &1t-'# !s d! /0K
;#st# #or# cu#ndo s! # #3#d-do ru-do # s-do # tod#s .os d#tos d! 5 * 4 5J) 1or !s !n .#
T#,.# *0 s! 'u!str# co'o !7o.uc-on# .# d!s7-#c-&n s!$n #u'!nt# !. 1orc!nt#(! d! d#tos
#6!ct#dos 1or !. ru-do Co'o !n !. !
-
8/18/2019 Analisis Componentes Principales
108/130
CAPTULO +: E5PERIMENTOS PCA
Porc!nt#(!d#tos con
ru-do
PCA PCA
PC0 PC* PCJ PC0 PC* PCJ
/l 0 0 0 0 /+*K /+*K
*+l /+K+ /*0KK /K** /J++ /++J0 /K+
+/l /0*J /K+ /K0 /0 /K0K+K /KJJ
+l /+0*K /*J /K+ //JK //*JJ /+++0
0//l /*// /+* /J++ /KK0J /J+ /*J
Tabla 21: &esviaci+n de !as componentes principa!es de! PCA $ de! 6 /PCA seg0n e! porcentaje de datos con ruidoimpu!sivo con una potencia (11 veces superior a !a de !a se2a!-
En !st! !
-
8/18/2019 Analisis Componentes Principales
109/130
+J SIMULACI8N CON DATOS MULTIDIMENSIONALES
Co'o s! o,s!r7# !n .# F-$ur# J 4 'u!str#n .os r!su.t#dos !n .# T#,.# ** !. PCA !s
c#1#" d! o6r!c!r ,u!nos r!su.t#dos 1!ro #n #s2 d! 1!or c#.-d#d 9u! .os r!su.t#dos !. PCA
En .# F-$ur# J s! 7! co'o 1#r# !. cost! 0// 4 !. cost! 0/// .# d!s7-#c-&n d! .# 1r-'!r#
co'1on!nt! d!. PCA su6r! '2n-'#s 7#r-#c-on!s r!s1!cto # Por .o t#nto) co'o !n .#s
s!cc-on!s #nt!r-or!s) 1#r# 7#.or!s d! 1!9u!3os !s n!c!s#r-o #(ust#r cu-d#dos#'!nt! C S-n
!',#r$o) t#nto !n !. cost! 0 co'o !n !. cost! 0/ !
-
8/18/2019 Analisis Componentes Principales
110/130
CAPTULO +: E5PERIMENTOS PCA
PCA EPCA
PC0 PC* PC0 PC*
50 /0/+ /+ /0JK/ /J+5* /0/+ / /0JK /J+
5J /0/+ /+ /0JK0 /J
5 /0/+ / /0J /J+
5+ /JJK /0/K /+/ //0K
5 /JJ /0/K /K //0K0
5 /JJ /00/ /K //0K0
5K /JJ /0/K / //0
5 // //0 /*+* /++
50/ //* //0J /*+/ /++V#r-#n"# >l /J/* JJK *0K* *K0/K
D-6!r!nc-# Cos!no 0 0 // /
T#$ ""! 9es"ltados c"ando no Eay r"ido imp"lsio para el PCA y 6-PCA empleando C i4"al a $7 y 6 a $.
Aor# s! -ntroduc! ru-do -'1u.s-7o !n .os d#tos S! r!#.-"#rán dos s-'u.#c-on!s) .#
1r-'!r# t!ndrá so.#'!nt! ru-do -'1u.s-7o !n .#s 7#r-#,.!s 5 4 5K M-!ntr#s 9u! .# s!$und#
s-'u.#c-&n t!ndrá ru-do -'1u.s-7o !n tod#s .#s 7#r-#,.!s E. ru-do -'1u.s-7o -ntroduc-do
t!ndrá un# 1ot!nc-# do,.! # .# 1ot!nc-# d! .#s 7#r-#,.!s # .#s 9u! s! .! #1.-9u! D!s1ués s!
r!1!t-rán .#s s-'u.#c-on!s -ntroduc-!ndo ru-do -'1u.s-7o con 1ot!nc-# cuádru1.! # .# d! .osd#tos
En .# F-$ur# J+ s! o,s!r7# co'o .# '!nor d!s7-#c-&n no #.c#n"# .os r!su.t#dos 1#r# !.
00/
Figura (: D!s7-#c-&n d! PC0 1#r# d-6!r!nt!s cost!s 4 7#.or!s d! ( cu#ndo s! -ntroduc! ru-do -'1u.s-7o !n 5
4 5K d! 1ot!nc-# do,.! # .os d#tos
10,6
10,5
10,4
10,3
10,2
10,1
100
0.54
0.56
0.58
0.6
0.62
0.64
0.66
@ D i " e r e
c i a C o s e n o @
C A 1C A 10
C A 100
C A 1000
-
8/18/2019 Analisis Componentes Principales
111/130
+J SIMULACI8N CON DATOS MULTIDIMENSIONALES
c#so s-n ru-do 4 #d!'ás !stá 'u4 1or d!,#(o L# '!nor d!s7-#c-&n s! #.c#n"# 1#r# !. cost!
0/ 4 cu#.9u-!r 7#.or d! -n6!r-or # /0 A. o,s!r7#r .# T#,.# *J s! co'1ru!,# 9u! .os
r!su.t#dos 1#r# !. PCA t#',-én son 1!or!s #un9u! cont-n#n s-!ndo '!(or!s 9u! .os d!.
PCA
En .# F-$ur# J s! o,s!r7# co'o # 1!s#r d! #3#d-r ru-do -'1u.s-7o !n tod#s .#s
7#r-#,.!s .# 1r-'!r# co'1on!nt! d!. PCA ..!$# # o,t!n!r un '!nor d!s7-#c-&n Co'o 1#r#
!. c#so s-n ru-do -'1u.s-7o 4 cu#ndo s&.o s! -ntroduc2# !. ru-do -'1u.s-7o !n 5 4 5K !. cost!
9u! t!r'-n# 1or o6r!c!r un '!(or r!su.t#do !s !. d! 7#.or 0/
S- co'1#r#'os !stos r!su.t#dos con .os d!. PCA >!n .# T#,.# *J 7o.7!'os # 7!r 9u!
son 1!or!s Los r!su.t#dos d!. PCA t#',-én '!(or#n 4 #un9u! .#s co'1on!nt!s no ..!$#n #
o,t!n!r .# d-r!cc-&n &1t-'# s! .! #c!rc#n 'uco
En .# T#,.# *J s! 1u!d! co'1ro,#r co'o #6!ct# !. ru-do -'1u.s-7o !n .#s co'1on!nt!s
1r-nc-1#.!s A. o,s!r7#r .#s 7#r-#,.!s 5 4 5K cu#ndo so.o s! #3#d! ru-do -'1u.s-7o # !st#s
7#r-#,.!s s! co'1ru!,# 9u! no t-!n!n !. '-s'o 7#.or 9u! .#s otr#s 7#r-#,.!s 9u! t-!n!n
#soc-#do !. '-s'o 7#.or P#r# 5 son .#s 7#r-#,.!s 50 )5* 45J) '-!nt#s 9u! 1#r# 5K son .#s
7#r-#,.!s 5+ )5 45 P#r# .# s-'u.#c-&n cu#ndo s! -ntroduc! ru-do -'1u.s-7o !n tod#s .#s
7#r-#,.!s) .os 7#.or!s d! .#s 7#r-#,.!s #soc-#d#s #. '-s'o 6#ctor !stán son d-st-ntos #un9u!
su!.!n !st#r c!rc#nos !ntr! s-
000
Figura (2: D!s7-#c-&n d! PC0 1#r# d-6!r!nt!s cost!s 4 7#.or!s d! cu#ndo s! -ntroduc! ru-do -'1u.s-7o !ntod#s .#s 7#r-#,.!s
10,6
10,5
10,4
10,3
10,2
10,1
100
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
@ D i " e
r e c i a C o s e n o @
C A 1
C A 10
C A 100
C A 1000
-
8/18/2019 Analisis Componentes Principales
112/130
CAPTULO +: E5PERIMENTOS PCA
Ru-do I'1u.s-7o !n 5 4 5K Ru-do I'1u.s-7o !n todo 5
PCA PCA PCA PCA
PC0 PC* PC0 PC* PC0 PC* PC0 PC*
50 //+K /*J/ /0* /*J /0*0+ / /0KJ /
5* //+ /*J/ /0*K /*J //J /J /*/+ /J
5J //+K /*J/ /0* /*JK0 //K /*/ /*0+ /0/
5 /0J /K*+ /JKJ /J0/0 /00