情報幾何の基礎輪読会 #1

46
1 情報幾何学の基礎 情報幾何学の基礎 #1 #1 2015/01/15 @simizut22

Upload: tatsuki-shimizu

Post on 16-Apr-2017

961 views

Category:

Science


2 download

TRANSCRIPT

Page 1: 情報幾何の基礎輪読会 #1

1

情報幾何学の基礎情報幾何学の基礎 #1 #12015/01/15@simizut22

Page 2: 情報幾何の基礎輪読会 #1

2

本⽇日の内容本⽇日の内容

第第 0 0 章章: : 準備準備第第 1 1 章章: Euclid : Euclid 平⾯面の幾何平⾯面の幾何

Page 3: 情報幾何の基礎輪読会 #1

3

第第 0 0 章章 準備準備

Page 4: 情報幾何の基礎輪読会 #1

4 . 1

0.1 0.1 微積より微積より~~逆写像定理逆写像定理//陰関数定理陰関数定理~~

Page 5: 情報幾何の基礎輪読会 #1

4 . 2

微分可能性微分可能性・・JacobiJacobi⾏行列⾏行列f : D(⊂R ) →Rl n がが x = ax = a で微分可能で微分可能

s.t. f(a + h) = f(a) + Ah + o(∥h∥)

このときのこのときの AA はは ff のの Jacobi Jacobi ⾏行列⾏行列i.e. A = ( )∂xk

∂fj(j,k)

⇔ ∃A ∈ M(n, l)

Page 6: 情報幾何の基礎輪読会 #1

4 . 3

記号の導⼊入記号の導⼊入

F (x, y) : D(⊂R ×R ) →R : C mapk n n r

F (a, b) = c

以下以下

R := a ×R0n { } n

R :=R × b0k k { }

: : 縦軸縦軸

: : 横軸横軸

Page 7: 情報幾何の基礎輪読会 #1

4 . 4

陰関数定理陰関数定理FF のの ' '縦軸縦軸' ' への制限のヤコビ⾏行列への制限のヤコビ⾏行列 (a, b)∂y

∂F

が正則の時、が正則の時、''横軸横軸' ' におけるにおける a a の開近傍の開近傍 W W とと

φ : W →R : Cn r が存在して次のが存在して次の 1, 2 1, 2 が成⽴立が成⽴立

1. F (x, φ(x)) = c (∀x ∈ W )

2. (a) = −∂x∂φ

∂y∂F −1

∂x∂F

Page 8: 情報幾何の基礎輪読会 #1

4 . 5

Page 9: 情報幾何の基礎輪読会 #1

4 . 6

証明:証明:((略略))

Page 10: 情報幾何の基礎輪読会 #1

4 . 7

逆写像定理逆写像定理f : D(⊂R ) →R : C mapn n r

1. ∂x∂f がが x = a x = a で正則で正則

2. a2. a の開近傍の開近傍 UU が存在してが存在してf ∣ : U ≅ f(U) : C diffeoU

r

に対し、に対し、1,2 1,2 は同値は同値

Page 11: 情報幾何の基礎輪読会 #1

4 . 8

22→→11))

g ∘ f = idU逆写像逆写像 g(y)g(y) をもって来るとをもって来ると

= I∂y∂g

∂x∂f

微分して微分してよりより □ □

Page 12: 情報幾何の基礎輪読会 #1

4 . 9

11→→2)2)F :R × D →Rn n

F (x, y) = x − f(y) とするととすると

= −∂y∂F

∂y∂f はは (f(a), a )(f(a), a ) の周りで正則の周りで正則

陰関数定理より陰関数定理より f(a)f(a) の開近傍の開近傍 WW の周りでの周りで

∃g : W → D

s.t. F (x, g(x)) = F (f(a), a) = 0

⇔ x = f(g(x)) □□

Page 13: 情報幾何の基礎輪読会 #1

4 . 10

例:例:

f :R ∋ x ↦ Ax ∈RAn n が逆写像を持つが逆写像を持つ

⇔⇔ A A が正則が正則

逆写像定理が逆写像定理が global global で成り⽴立つ場合で成り⽴立つ場合

Page 14: 情報幾何の基礎輪読会 #1

4 . 11

逆写像定理逆写像定理→→陰関数定理陰関数定理

∵) F : D(⊂R ×R ) → Rk n n

が陰関数定理の仮定を満たすとする。が陰関数定理の仮定を満たすとする。

f : D →R ×Rk n を次で定める。を次で定める。

f(x, y) := (x, F (x, y))

Page 15: 情報幾何の基礎輪読会 #1

4 . 12

ff のの Jacobi Jacobi ⾏行列⾏行列

Jf = ( I

∂x∂F

0

∂y∂F )

は仮定から正則は仮定から正則→→逆写像定理が成⽴立逆写像定理が成⽴立

f (x, y) = (x, g(x, y))−1

となる、となる、 gg をもちいて、をもちいて、 g(⋅, b)

が題意を満たすが題意を満たす □ □

Page 16: 情報幾何の基礎輪読会 #1

5 . 1

0.2 0.2 線形代数より線形代数より~~双対とテンソル双対とテンソル~~

Page 17: 情報幾何の基礎輪読会 #1

5 . 2

双対空間双対空間V : R 上の上の''有限次元有限次元' ' ベクトル空間、に対しベクトル空間、に対し

V := f : V → R ∣ linear∗ { }

を、を、VV の双対空間というの双対空間という

1. dim(V ) = dim(V )∗

2. (V ) ≅ V∗ ∗

Prop)Prop)

Page 18: 情報幾何の基礎輪読会 #1

5 . 3

∵∵))1) V 1) V の基底の基底 e{ i}i=1,...n

その双対基底その双対基底 f{ j}j=1,...n

を取れば、を取れば、 おkおk 実際、実際、

∀f ∈ V , a := f(e )∗i i と置くと、と置くと、

f = a fjj (∵ e{ i} が基底が基底

を⼀一つとるを⼀一つとる

Page 19: 情報幾何の基礎輪読会 #1

5 . 4

2 ) 2 ) x ↦ x~

w/ : f ↦ f(x)x~

とすると、これは明らかに単射とすると、これは明らかに単射

dimV = dmV = dim(V )∗ ∗ ∗

かつかつ

より同型より同型 □ □

Page 20: 情報幾何の基礎輪読会 #1

5 . 5

V := F ∈ ((V ) × V ) ∣ multi linear(r,s) { ∗ r s ∗ }

をを r r 階反変階反変, s , s 階共変テンソル空間という階共変テンソル空間という

V = V ⊗ ... ⊗ V ⊗ V ⊗ ... ⊗ V(r,s) ∗ ∗r 個 s 個

と書くことが普通な気がすると書くことが普通な気がする...(...(※※))

特に特にV = ⊗V(r,0) : r : r 階反変テンソル空間階反変テンソル空間

V = ⊗V(0,s) ∗ : s : s 階共変テンソル空間階共変テンソル空間

dimV = (dimV )(r,s) r+s

Page 21: 情報幾何の基礎輪読会 #1

5 . 6

補⾜足:テンソル積の性質補⾜足:テンソル積の性質

V ⊗ W ≅ W ⊗ V

(V ⊗ W ) ⊗ U ≅ V ⊗ (W ⊗ U)V ⊗ R ≅ R ⊗ V ≅ V

より、上のより、上の (r, s) (r, s) という書き⽅方はという書き⽅方はwell-definedwell-defined

Page 22: 情報幾何の基礎輪読会 #1

5 . 7

※※についてについて

Φ : V × (V ) → Vr ∗ s (r,s)

Φ(v , ..., v , f , ..., f ) =1 r1 s

(g , ..., g , w , ..., w ) ↦ g (v ) ⋅ f (w )1 r1 s ∏ i

i ∏ jj

をを

と定めると定める

Page 23: 情報幾何の基礎輪読会 #1

5 . 8

e : V{ i} の基底としの基底とし

f : V{ j} ∗ の双対基底として、の双対基底として、

Φ(e , ..., e , f , ..., f ){ i1 ir

j1 js } がが

V (r,s) の基底になることから従うの基底になることから従う

Page 24: 情報幾何の基礎輪読会 #1

6 . 1

1. Euclid 1. Euclid 平⾯面の幾何平⾯面の幾何

Page 25: 情報幾何の基礎輪読会 #1

6 . 2

以下、以下、特に断らない限り写像や曲線は滑らかとする特に断らない限り写像や曲線は滑らかとする

Page 26: 情報幾何の基礎輪読会 #1

7 . 1

1.1 1.1 座標系座標系

Page 27: 情報幾何の基礎輪読会 #1

7 . 2

φ :R →R , (ξ , ξ ) ↦ (z , z )2 21 2 1 2

は逆写像定理より、は逆写像定理より、 Jacobi Jacobi⾏行列⾏行列

Jφ = ( )∂ξa

∂zii,a∈ 1,2{ }

が正則であれば、が正則であれば、local local には微分同相には微分同相従って特に、従って特に、

座標軸の像は⾏行き先での座標軸の像は⾏行き先での " "座標軸座標軸""と考えられると考えられる→→「曲線座標系」!!「曲線座標系」!!

Page 28: 情報幾何の基礎輪読会 #1

7 . 3

Page 29: 情報幾何の基礎輪読会 #1

7 . 4

例1例1・・斜交座標系斜交座標系

φ(x) := Ax + b

for A ∈ GL(2, R), b ∈R2

により定まる座標系:アフィン座標系により定まる座標系:アフィン座標系

Page 30: 情報幾何の基礎輪読会 #1

7 . 5

例2:極座標系例2:極座標系φ : (r, θ) ↦ (z , z )1 2 をを

=[ z1

z2] [ rcosθ

rsinθ]

で、与えるで、与える((ご存知極座標ご存知極座標))

det(Jφ) = det = r[ cosθ

sinθ

−rsinθ

rcosθ]

より、より、 r ≠ 0r ≠ 0 で曲線座標を与える。で曲線座標を与える。

Page 31: 情報幾何の基礎輪読会 #1

8 . 1

1.2 1.2 接ベクトル接ベクトル

Page 32: 情報幾何の基礎輪読会 #1

8 . 2

φ = (x , x ) ↦ (z , z ) : U(⊂R ) → M1 2 1 22

座標曲線座標曲線: given: givenC (t) = φ(t, 0)p

とし、点とし、点 P = φ(0, 0)でのでの xx11 ⽅方向への接ベクトルを次で与える⽅方向への接ベクトルを次で与える::

e (P ) := (0)x1 dt

dCp

xx22 ⽅方向も同様⽅方向も同様 □ □

Page 33: 情報幾何の基礎輪読会 #1

8 . 3

⼀一般の⽅方向の接ベクトルを考える⼀一般の⽅方向の接ベクトルを考える

i.e. T (M) = (0) ∣ c(0) = PP {dtdc }

Lem : ⟨e , e ⟩ = T (M)x1 x2 P

⼗〸十分⼩小さくすると、⼗〸十分⼩小さくすると、∵) ε > 0 :c(−ε, ε) ⊂ U : 座標近傍とできる座標近傍とできる

c(t) = φ(∃ (t)), t ∈ (−ε, ε)c~

= + = v edtdc

∂x1

∂φdt

dx1∂x2

∂φdt

dx2 ixi □□

Page 34: 情報幾何の基礎輪読会 #1

8 . 4

座標変換すると座標変換すると......

v eixi

= vi∂xi

∂φ

= vi∂xi

∂(ψ∘ψ ∘φ)−1

= vi∂ξa

∂ψ∂xi

∂ξa

= (v )ei∂xi

∂ξaξa

= v eaξa

v = va∂xi

∂ξa i

すなわち、すなわち、

座標変換関数の座標変換関数の Jacobi Jacobi ⾏行列で調節される。⾏行列で調節される。

Page 35: 情報幾何の基礎輪読会 #1

9 . 1

平⾏行ベクトル場と共変微分平⾏行ベクトル場と共変微分

Page 36: 情報幾何の基礎輪読会 #1

9 . 2

wiki wiki にいい⾔言葉があったにいい⾔言葉があった

“ Naïvely, one may consider a vector field parallelNaïvely, one may consider a vector field parallelif the coordinate components of the vector field areif the coordinate components of the vector field areconstant along the curve. However, an immediateconstant along the curve. However, an immediate

ambiguity arises: in which coordinate systemambiguity arises: in which coordinate systemshould these components be constant?should these components be constant?

平⾏行ベクトル場平⾏行ベクトル場

Page 37: 情報幾何の基礎輪読会 #1

9 . 3

ちょっとだけ⼀一般論ちょっとだけ⼀一般論((曲⾯面論的な曲⾯面論的な))

空間内の曲⾯面空間内の曲⾯面 M M および、曲線および、曲線 c c を考えるを考えるM M 内の内の c c に沿ったベクトル場とは:に沿ったベクトル場とは:

t ↦ X ∈ T Mt c(t)

XX の微分を接⽅方向と法線⽅方向に分けて、の微分を接⽅方向と法線⽅方向に分けて、以下のように書くこととする。以下のように書くこととする。

= + Adt

dXtdt

DXtX

Page 38: 情報幾何の基礎輪読会 #1

9 . 4

定義定義))曲線曲線 c c に沿ったベクトル場が平⾏行に沿ったベクトル場が平⾏行⇔⇔ 微分の接⽅方向の成分が消える微分の接⽅方向の成分が消える

定義定義))曲線曲線 c c が測地線が測地線⇔⇔ c c の微分がの微分が c c ⾃自⾝身に沿って平⾏行⾃自⾝身に沿って平⾏行

Page 39: 情報幾何の基礎輪読会 #1

9 . 5

例例))ユークリッド空間の測地線は等速直線運動ユークリッド空間の測地線は等速直線運動

∵∵) c ) c が測地線が測地線

⇔ = 0dt2d c2 より明らかより明らか

□□

Page 40: 情報幾何の基礎輪読会 #1

9 . 6

テキストの常ベクトル場はテキストの常ベクトル場は測地線の微分で与えられるベクトル場?測地線の微分で与えられるベクトル場?

これは定数ベクトル場なので平⾯面全体に拡張これは定数ベクトル場なので平⾯面全体に拡張

→→平⾯面上のベクトル場と⾔言っている?平⾯面上のベクトル場と⾔言っている?

Page 41: 情報幾何の基礎輪読会 #1

10 . 1

テキスト、ちょっと迷⾛走気味なので。。。テキスト、ちょっと迷⾛走気味なので。。。

X∣ : t ↦ Xc c(t)

ベクトル場ベクトル場 X X および曲線および曲線 c c に対してに対して

により、曲線に沿ったベクトル場が定まるにより、曲線に沿ったベクトル場が定まる

ベクトルベクトル v v に対して、に対して、 v v の積分曲線の積分曲線 ccvv

Page 42: 情報幾何の基礎輪読会 #1

10 . 2

= X∣ + Adt

dX∣cv

dtD

cv X∣cv

のように接⽅方向と法線⽅方向に分解するのように接⽅方向と法線⽅方向に分解する

∇ Xv

この時の第この時の第 1 1 項を項を

と書き共変微分というと書き共変微分という

Page 43: 情報幾何の基礎輪読会 #1

10 . 3

Christoffel Christoffel シンボルシンボル

e{ xj }座標系からさだまる基本基底座標系からさだまる基本基底

に対して、共変微分をした時の係数がに対して、共変微分をした時の係数がChristoffel SymbolChristoffel Symbol

i.e. ∇ e = Γ eexj xi jik

xk

により、により、Christoffel Symbol Christoffel Symbol を定めるを定める

Page 44: 情報幾何の基礎輪読会 #1

10 . 4

例:極座標の共変微分例:極座標の共変微分

e = (cosθ, sinθ), e = (−rsinθ, rcosθ)r θ

と定義から、(※)

∇ e = 0r r

∇ e = (−sinθ, cosθ) = er θ r1

θ

∇ e = (−rcosθ, −rsinθ) = −reθ θ r

∇ e = (−sinθ, cosθ) = eθ r r1

θ

Page 45: 情報幾何の基礎輪読会 #1

10 . 5

の積分曲線は極座標で書くとの積分曲線は極座標で書くとer

c (t) = (r + t, θ)r

e ∣ = (−(r + t)sinθ, (r + t)cosθ)θ c (t)r

と例えば取ると例えば取る

時間で微分して、時間で微分して、∇ e = (−sinθ, cosθ) = er θ r

を得る。以下同様を得る。以下同様 □ □

※※の補⾜足の補⾜足

Page 46: 情報幾何の基礎輪読会 #1

11

終わり終わり