w< e 2 e4 h ~tdhu - strtakeda/lectures/...~tdhu l@e@eé > @ d nw< e¢ªé ® o w< e 2 e4...
TRANSCRIPT
~tdhU��L@E @EéľŀńŎW<§E¢ªé
®��O
W<�EěĖIJėE4ĀŨ
W<�EĕěŨ
¡ Information Science
¡�ÂĘěùW<§EúĕÏĊş
¡ ùW<MEú(Information Engineering)ĘJ�ćČēùW<�EúĕÏĊĚāÀ�ĔěŨ
¡ MEàŦFaculty of Engineering¡ �Eà: Faculty of Science
¡ĔŞùW<�EúĕěĖýüýE4ĀŨ
W<�EěĖýüýE4ĀŨ
¡�ÖĕW<ŧ��ı�ZĊĭ�ĒĚǶ
¡��E ŧ�ÖĚ�ŜĆĕİĬŝĘĒüēĚE
¡W<�EŧW<Ě�ŜĆĕİĬŝĘĒüēĚE
LNu£MT*�� �k°�£MXxQ�
�,Ě�üE4ěñ#�ś
¡mEĨ��E쪴� ĀīD7ś¡ �ĎĐĚ¢ªĚéā�³'ćĮl§vĘş
¡ ¢ª¾ěŞčĚ�³ı�'1*ĈĎ�ĔŞpĈü¢ªıKæş
¡ x�Ě¢ªĘÜüĒăĚā@?ş
¡W<ı_ýE4ěŞ20�´ĘBģđĎĜĀĬş¡ ĨĭġĂĆĕāüđĝü�đēÿĬ@Eé�Ĕħ��x�Ĕ�ØĔĂĭş
¡ ùl§vıÒĥĞĕúĀīùl§vĘÚĭĞĕĠúś
Isaac Newton(WikipediaĪĬ)
1����46«�:¼07�&�%��&��5��8+ªO*µ)�!��5%�
W<�EĔ¢ªĊĭĆĕ~td���)��[)~t:io�7�
�85)"�$�d�&be*���5��
~t&+��
w�&+�� ��&+��
w�d���)��[)~t:�d�7�
O���d���)jº:�[),7.9�7�
W<�Ó
W<�Ó
¡"B¾Ŧ¡ Claude E. Shannon (1916-2001) ¡ W<Þ�Ě;¥�Óş
¡ ŅĿłŕŠijňŗĺ?hĚ;¥�Óş
¡ ŅĿłŕ5×ÎÌĚ"B¾Ŝ�=Ón21^ŝş
¡ðPW<'¦ıjþĭ;�`Åş¡ W<ŞÞ�Şu-ŞŅŚł6ºŞ°-'ş Claude E. Shannon
(WikipediaĪĬ)
N
n¬ı�þĭ
ì>ı�þĭ
��ı�þĭ
N
ì>ı�þĭ
n¬ı�þĭ
��ı�þĭ
VÖāĐāýW<ėĚĘŞ
ĖýĈē/ĉĪýĘÝĮĭĚďįýŨ
ìŜ=«�Ěd%ŝı޲Ěd%ĕĈē�þĭ ìŜŧ«�Ěd%ŝıŞijňŗĺë��-ĕĈē�þĭ
ì>ı�þĭ
ì>ı�þĭ
n¬ı�þĭ
��ı�þĭ
ôĕõĚ�ğĔŞ ĔħÆČĭś
n a
P On a
k D
ôõôõõôõõ
š Ţ š Ţ Ţ š Ţ Ţ
HêěĖýÆĈēüĭĀĕüýĕ
² ë�ĚRüřQü² �ĚRüřQü² ăĢĤĚûĭřėĈ² ¤¡Ě#Ě0Ă
řřř
n ŅŚłãŧ�Ěm
n 1ŊŃņŧ�Ţ�n 1ʼnĴņŧťŊŃņn 1ĸŗʼnĴņŧ1024ʼnĴņn 1ŏķʼnĴņŧ1024ĸŗʼnĴņ
ŢŊŃņ
ŢʼnĴņ
ũŪŢ|Ŝ650ŏķʼnĴņŝ
µ100kmµ98m
8�Ţ2(Ŝ65000kmŝ
12mm
b�
��
nC ì>
ôõõôõôõôõôõ
��
nC ì>
ôõõôõôõôõôõ
RP D
�Ý
yģĈü°-'• ĔĂĭďĄ ăÆ�Ċĭ• �XĘ�Ę\Čĭ• ¶ră�Ę\Čĭ
��
nC ì>
ôõõôõôõôõôõ
��
nC ì>
ôõõôôôõôõôõ
a
�Ý
• �Ý�ĘĵœŚāûđĎĆĕıÀ%~�
• �Ý�ĚĵœŚıÀ%Ë�
��
nC ì>
ôõõôõôõôõôõ
��
nC ì>
ôõõôõôõôõôõ
�Ý
ôõõôõôõôõôõ ôõõôõôõôõôõ
pp
• �Ý�ĘĵœŚāûđĎĆĕıÀ%~�
• �Ý�ĚĵœŚıÀ%Ë�
��
nC ì>
ôõõôõôõôõôõ
��
nC ì>
ôõõôõôõôõôõ
�Ý
ôõõôõôõôõôõ ôõõôõôõôõôõ
pp
���
• W<Ě�I�cĘáYĈĎÞ�ıÄý
ò
a
C1
ôôôõôôôõõôõõôôôôôõôôôô 2 ò 11 = 22 [ŊŃņ]
C1
Ċġē/ĉåć
ħđĕ ăÆ�ĔĂėüĀŨ
a
C2
õôõõôõôôõôôôõõõôõõõ 19 [ŊŃņ]
C2
22 [ŊŃņ]ĪĬ ü
a
C3
õôõõôõôôõôôôõõôõõõ 18 [ŊŃņ]
C3
ćīĘ ăėđĎś
ôôôõôôôõõôõõôôôôôõôôôô
õôõõôõôôõôôôõõõôõõõ
õôõõôõôôõôôôõõôõõõ
a
O Ⅰ
22 [ŊŃņ]
19 [ŊŃņ]
18 [ŊŃņ]
C1
C2
C3
C3āxħ ü
ôõôõõõôôõôôõõôôôõôõôõõ
a
a
22 [ŊŃņ]
28 [ŊŃņ]
26 [ŊŃņ]
C1
C2
C3
C1āxħ ü
õôõ ôôõôõ ôôõôôõôôõ ôôôõôõ ôôôõ õ
õôõôôô ôôõôõ ôôõ ôôôôôõôôõôõ õ
R C
a
0.70
0.15
0.10
0.05
2
2
2
2
0.70 1.40
0.15 0.30
0.10 0.20
0.05 0.10
=
=
=
=
ò
ò
ò
ò
2.00 [ŊŃņ]
1
2
3
4
0.70 0.70
0.15 0.30
0.10 0.30
0.05 0.20
=
=
=
=
ò
ò
ò
ò
1.50 [ŊŃņ]
1
2
3
3
0.70 0.70
0.15 0.30
0.10 0.30
0.05 0.15
=
=
=
=
ò
ò
ò
ò
1.45 [ŊŃņ]
S
ôô
ôõ
õô
õõ
C1
õ
ôõ
ôôõ
ôôôõ
C2
õ
ôõ
ôôõ
ôôô
C3
N9°-Ñåı ăĊĭĘěŞ�ĮĨĊüÍ-ó ü°-Ñ�ĮĘăüÍ-óåü°-Ñĕ!ĬSēĮĜĪüş
a
D R N
P Y RNn S Nn S N
n S P C T k
n a N O
S = P S H(S)
H(S) = p1 (– log2 p1) + … + pm (– log2 pM)
Í- £�
a1 p1
a2 p2
… …aM pM
0.70
0.15
0.10
0.05
0.70 (– log2 0.70) = 0.3602
0.15 (– log2 0.15) = 0.4105
0.10 (– log2 0.10) = 0.3322
0.05 (– log2 0.05) = 0.2161
H(S) = 1.3190
S
Y p aC ś
S R S RC L(C)a
RH(S) ≤ L(C)
a1 p1
a2 p2
… …aM pM
a1 C(a1)a2 C(a2)… …aM C(aM)
L(C1)=2.0000
C1 C2 C3
H(S)=1.3190 L(C2)=1.5000 L(C3)=1.4500
0.70
0.15
0.10
0.05
S
≤ ≤ ≤
H(S)=1.3190 H(S)=1.3190 H(S)=1.3190
̱�Ó
̱�Ó
¡"B¾Ŧ¡ Alan M. Turing (1912-1954) ¡ �7ĚļŘŋŒŚłĚ):ĕėĭTuring�}ıg3ş¡ ijŕĽŔŁŎĚ�Uıs£'ş
¡ijŕĽŔŁŎ¡ ļŘŋŒŚłĘĪĭ��(̱)]íş¡ o�ĚŖľŋĤĎüėħĚş
¡ijŕĽŔŁŎĚ¢ª¡ $��ė��]íı½þĭĆĕş
w��=KDH�A%*�df© y»*w�&+���
½*�5´�*�6V1. ½GG³:�72. �3�2�/6;�±��3�%^ :"�7
3. �5´�¹:.;-;(���74. 180�*¡%´�7
Alan M. Turing(WikipediaĪĬ)
x@�4îıÉă
x@�4î
¡âćāʼnœʼnœĚäÕāŤ|ûĭşA¨ı�đē��âüäÕıĤĒĄĭijŕĽŔŁŎı�Įş
¡&ĐaĂ[ıĨĮĜOKş
31 41 59 26 41 58
x@�4î
¡âćāʼnœʼnœĚäÕāŤ|ûĭşA¨ı�đē��âüäÕıĤĒĄĭijŕĽŔŁŎı�Įş
¡&ĐaĂ[ıĨĮĜOKş
31 41 59 26 41 58
x@�4î
¡âćāʼnœʼnœĚäÕāŤ|ûĭşA¨ı�đē��âüäÕıĤĒĄĭijŕĽŔŁŎı�Įş
¡&ĐaĂ[ıĨĮĜOKş
¡¹.ČĘĪīċŞA¨ěţ5�ýş
31 41 59 26 41 58
n ²
n-1 \
x@�4î
� (��"��)����bp*¬<a1, a2, ..., an >ş1, a2, ..., anø���lM�:��7¶� i .
���lM�ns+ 3�' n−1\*Mc�·)46}��&�%�7�
�ġwþ4îıÉă
�ġwþ4î
n|ĚäÕıŞÙüqĀīíĘ�ġwþĪş
58 41 59 26 41 31
26 31 41 41 58 59
�ġwþ4î
n|ĚäÕıŞÙüqĀīíĘ�ġwþĪş
58 41 59 26 41 31
26 31 41 41 58 59
�ġwþ4î
� (#�$���)����bp*¬<a1, a2, ..., an>ş1, a2, ..., anø���U]:¢-¥�$|587¤gzr¬<b1, b2, ..., bn>.
�ġwþijŕĽŔŁŎ
¡x@�ı�Ħĭ4îı»ĬÛĈÉĄĜĪüş
58 41 59 26 41 31
26 31 41 41 58 59
� (#�$���)����bp*¬<a1, a2, ..., an>ş1, a2, ..., anø���U]:¢-¥�$|587¤gzr¬<b1, b2, ..., bn>.
���`¯@�B*bRWY+ c1n2q^%�7(c1>0+Zp)�
���C�E@�B*bRWY+ c2nlog2nq^%�7(c2>0+Zp)�
Gmc1,c2ě��ĊĭļŘŋŒŚłĚV¿Ę�Dş
Ⅱ
D Ⅱ
$�'Ěè�
� (#�$���)����bp*¬<a1, a2, ..., an>ş1, a2, ..., anø���U]:¢-¥�$|587¤gzr¬<b1, b2, ..., bn>.
Q. 1!&��*��<J>I?F+�8(�*�
���(�*�·){#��)�m*¢-¥�<J>I?F*bRWY+c3n log2 n qP%�7(c3>0+Zp)ş
A. �8(��
���C�E@�B*bRWY+ c2nlog2nq^%�7(c2>0+Zp)�
D Ⅱ
0
5000
10000
15000
20000
25000
0 10 20 30 40 50 60 70 80 90 100x 10000
R
�&�� ������2n2 !%��1�Y)1v�bR
����� ������50 n log2 n!%��1�Y)100��bR
16.67�
5.56tç
R
¡YoutubeùŌĶľĹĚmþqúÿęþćIJĕüđĈĩśĤIJėĔmþēĤĪýś(2012/09/10�æ)
¡ ùGraphillion: mþ�ąÿęþćIJıkþú
48
M�¿�Ó
M�¿�Ó
¡"B¾ŦMarvin Minsky (1927-) John McCarthy (1927-2011) Terry Allen Winograd (1946-)
¡çĚÄėý��ė�%Ě)�ıªsş¡ ��ÐÔŠnCÐÔŠì>ÐÔ
¡ À�ÊÑ�É
¡ e·
¡ fÓ
¡ E¼Š�È
¡ļŘŋŒŚłı��ĘdĭÁİČĭĎĦĘTÇė`Åıæ�ş
N N
¡a P )..
N N
¡ YP )..
¡ a¡ d k P
p R R D
¡ R R W computer
¡ R aP O D
¡ a R D¡ Turing
¡ Ⅲ P PT OS
¡ C P S
¡ kP iYeP D
¡ O¡ a
¡ a
- )0
ŀōĴŕľőŃłŚŐŚŇĔiĭ�ĚïıÐÔćČĭ÷
¯ïı�ĭĕľőŃłŚā�Įĭ÷
®¦��:_�$¸�S��a�¨.!�¦
+ĕěŨ+āæăĕěŨ�ĕěŨ�ĕěŨ�ā¸ģĭĕěŨ
ïĕěŨ¯ïĕěŨ
- )0
¯ïÐÔĚłŚĻŃņı�GĊĭĕ....
¡ Ⅲ P PT OS
¡ C P S
¡ kP iYeP D
¡ O¡ a
¡ a
¡ R DD b Y
ö
a
¡ P p P pR N 3
ÿ]z �īėü4î
h§�7&...
}�7�
a
ÿ]z �īėü4î
h§�7&...
}�7�
棋譜データ50000局
¡ R
E¼�...E¼F�
a
¡¡ 2
¡ R
¡ R
観測データ
É{�...�Èś
a Y C bD
¡ y
¡ (
¡ D a W
a Y C bD
¡ y
¡ (
¡ D a W
¡¡
¡ a
a Y C bD
¡ y
¡ (
¡ D a W
¡¡
¡ a
¡ D p