teorija informacija - claude shannon

Upload: bosna-bosnic

Post on 14-Apr-2018

236 views

Category:

Documents


2 download

TRANSCRIPT

  • 7/29/2019 Teorija Informacija - Claude Shannon

    1/29

    Claude Shannon Osniva teorije informacija 1949 rad: Comm. Thy. of Secrecy Systems Konfuzija i difuzija

    Konfuzija sloena relacija izmedju otvorenogteksta i ifrata Difuzija irenje statistike otvorenog teksta u

    okviru ifrata

    Dokaz da je one-time pad ifra sigurna One-time pad koristi konfuziju, dok dvostrukatranspozicija koristi samo difuziju

    http://www.cs.ucla.edu/~jkong/research/security/shannon1949.pdfhttp://www.cs.ucla.edu/~jkong/research/security/shannon1949.pdf
  • 7/29/2019 Teorija Informacija - Claude Shannon

    2/29

    Perfekt ne ifre

    Claude Shannon,1916-2001

  • 7/29/2019 Teorija Informacija - Claude Shannon

    3/29

    Claude Shannon

    Magistarski rad [1938] Bulova algebra u elektronskim kolima

    Matematika teorija komunikacija [1948] utemeljuje teoriju informacija

    Komunikacion teorija sistema za zatitu[1945/1949]

  • 7/29/2019 Teorija Informacija - Claude Shannon

    4/29

    EntropijaKoliina informacija u porukama

    H(M) = - P( M i) log P( M i) po svim moguim porukama M i

    Ukoliko imamo n jednako verovatnih poruka,H(M) = - 1/n log 1/n

    = - ( n * (1/n log 1/n))= - (1 log 1/n) = log n

    Osnova za log je veliina alfabeta, pa je za binarniH(M) = log 2 n

    gde je n broj moguih poruka

  • 7/29/2019 Teorija Informacija - Claude Shannon

    5/29

    Entropija

    Entropiju H(x) sluajne veliine x moemointerpretirati na sledee naine:

    Oekivana koliina informacije koju sadri jednarealizacija x

    Neodredjenost u vezi ishoda jedne relizacije x Oekivana vrednost broja bita neophodnih za

    opis jedne realizacije x

  • 7/29/2019 Teorija Informacija - Claude Shannon

    6/29

    Entropija - primer

    M = meseci u godini

    H(M) = log 2 12 3.6 (potrebno je 4 bita zakodovanje meseci unutar jedne godine)

  • 7/29/2019 Teorija Informacija - Claude Shannon

    7/29

    Brzina (rate)

    Apsolutna brzina: koliko se informacija moekodovati

    R = log 2 Z (Z=veliina alfabeta)

    REngleski = Stvarna brzina jezika:

    HL = lim nH(M ) / N

    M je N -slovna poruka.

    log 2 26 4.7 bita / znaku

  • 7/29/2019 Teorija Informacija - Claude Shannon

    8/29

    Entropija engleskog jezika

    H0= (-26*1/26)*log 2(1/26)=log 226 H1= 4.15 bit/znaku H2= 3.62 bit/znaku H3= 3.22 bit/znaku H = 1.3 bit/znaku

  • 7/29/2019 Teorija Informacija - Claude Shannon

    9/29

    Redundansa Redundansa (D) se definie sa :

    D = R HL Redundansa engleskog jezika:

    D = 4.7 1.3 = 3.4 bita/slovuSvako slovo je 1.3 bit a sadraja i 3.4bita redundanse. (~72%)

    7-bitni ASCIID = 7 1.3 = 5.781% redundanse, 19% informacija

  • 7/29/2019 Teorija Informacija - Claude Shannon

    10/29

    Taka jedinstvenosti Entropija kriptosistema: (K = broj moguihkljueva)

    H(K ) = log Duina alfabeta K ako su svi kljuevi jednako verovatni H(64-bitni k lju) = log 2 264 = 64

    Taka jedinstvenosti se definie sa :

    U = H( K )/DOekivana minimalna duina ifrataneophodnog za uspeh napada grubom silom(proba svih mogunosti).

  • 7/29/2019 Teorija Informacija - Claude Shannon

    11/29

    Taka jedinstvenosti - primer One-Time Pad

    H(K) = infinityU = H(K)/D = infinity

    Monoalphabetska zamenaH(K ) = log 2 26! 87 D = 3.4 (redundansa u Engleskom)U = H(K)/D 25.5

    Intuicija: ako imamo 25 slova, verovatno samo jedan otvoreni tekst odgovara reenju .D = 0 ( sluajan niz)U = H(K)/D = infinity

  • 7/29/2019 Teorija Informacija - Claude Shannon

    12/29

    Taka jedinstvenosti Probabi listika mera koliine ifrata

    neophodnog za jedinstveno odredjivanjeotvorenog teksta

    Ne daje indiciju koliko je ifrata potrebno zakriptoanalizu Ukoliko posedujemo ifrata manje od take

    jedinstvenosti, ne znamo da li su naa

    pogadjanja tana . Kada redundansa tei 0, teko je dekriptiratiak i najprostije ifre.

  • 7/29/2019 Teorija Informacija - Claude Shannon

    13/29

    enonova teorija [1945]Prostor poruka: { M 1, M 2,..., M n }

    Pretpostavlja se konaan broj poruka

    Svaka poruka ima verovatnou p (M 1) + p (M 2) + ... + p (M n) = 1Prostor kljueva: { K 1, K 2,..., K l }

  • 7/29/2019 Teorija Informacija - Claude Shannon

    14/29

    Perfekt ne ifre: definicija

    M 1

    M 2

    M n

    C 1

    C 2

    C n

    K a

    ......

    K b

    Perfektna ifra:postoji klju kojipreslikava svaku

    poruku u svaki ifratsa jednakomverovatnoom.

    Za svako i , j : p (M i|C j) = p (M i)

  • 7/29/2019 Teorija Informacija - Claude Shannon

    15/29

    Uslovna verovatnoa P ( B | A) = Verovatnoa B, pod uslovom da se A

    dogodilo

    P (pismo) = P (pismo | poslednje bacanje glava) = P (Danas je ponedeljak | jue je bila nedelja) =1P ( danas je vikend | jue je bio radni dan) = 1/5

  • 7/29/2019 Teorija Informacija - Claude Shannon

    16/29

    Raunanje uslovne verovatnoe

    P ( B | A) = P ( A B)P ( A)

    P (pismo | poslednje bacanje glava) =P (pismo i poslednje bacanje glava)

    P(poslednje bacanje glava)

    = ( * ) / =

  • 7/29/2019 Teorija Informacija - Claude Shannon

    17/29

    P ( danas je vikend | jue je bio radni dan)= P (danas je vikend i jue je bio radni dan) /

    P ( jue je bio radni dan)= P (danas je vikend) * P( jue je bio radni

    dan) / P ( jue je bio radni dan)= 2/7 * 5/7 / 5/7 = 2/7

    Pogreno !

    P( A B) = P(A) * P(B) ako i samo ako su A i B nezavisni dogadjaji

  • 7/29/2019 Teorija Informacija - Claude Shannon

    18/29

    Perfe ktna ifra

    Definicija: i, j: P (M i|C j) = P (M i)

    ifra je perfektna ako: M , C P (C | M ) = P (C )

  • 7/29/2019 Teorija Informacija - Claude Shannon

    19/29

    Perfe ktna ifra

    Ili, ekvivalentno:

    M , C P (M | C ) = P (M )

    Bez poznavanja klua, svaki ifratpodjednako verovatno moe odgovaratibilo kom otvorenom tekstu.

  • 7/29/2019 Teorija Informacija - Claude Shannon

    20/29

    Primer: monoalfabetska ifra Sluajna monoalfabetska zamena za

    poruke od jednog slova:C,M: p(C) = p (C | M) = 1/26.

  • 7/29/2019 Teorija Informacija - Claude Shannon

    21/29

    Primer: One-Time Pad

    Za svaki bit: p (C i = 0) = p (C i = 0 | M i = 0) = p (C i = 0 | M i = 1) = poto je C i = K i Mi

    p (Ki Mi = 0) = p (Ki = 1) * p (Mi = 1)+ p (Ki = 0) * p (Mi = 0)

    isto sluajan K znai p (Ki = 1) = p (Ki = 0) = = * p (Mi = 1) + * p (Mi = 0)

    = * ( p (Mi = 1) + p (Mi = 0)) = Svi kljuevi su nezavisni, tako da je: p (C) = p (C | M) QED.

  • 7/29/2019 Teorija Informacija - Claude Shannon

    22/29

    enonova teorema o perfektnimifarskim sistemima

    TEOREMA 1 Neka je u jednom ifarskomsistemu |P| = |K| = |C| . ifarski sistem jeperfektan ako i samo ako:

    Svi kljuevi se koriste sa jednakomverovatnoom 1/ |K| , Za svako x iz P i za svako y iz C, postoji samo

    jedan jedinstven klju K takav da je EK(x)=y.

  • 7/29/2019 Teorija Informacija - Claude Shannon

    23/29

    Teorema o perfektnom kriptosistemuTEOREMA 2: ukoliko je ifra perfektna,mora biti najmanje onoliko kljueva(l )koliko ima moguih poruka(n).

  • 7/29/2019 Teorija Informacija - Claude Shannon

    24/29

    Dokaz kontradikcijom

    Pretpostavimo da postoji perfektna ifra sal < n. (Vie poruka nego kljueva.)

    Neka je C 0 proizvoljan ifrat sap(C 0) > 0.Tada postojim poruka M takvih da je M = D K(C 0 )

    n - m poruka M0 takvih da je M 0 DK(C 0 )Znamo de je 1 m l < n tako da jen - m > 0 i postoji barem jedna poruka M 0.

  • 7/29/2019 Teorija Informacija - Claude Shannon

    25/29

    Dokaz, nastavak

    Razmotrimo poruku M 0 gde jeM0 DK(C 0 ) za svako K.Stoga,

    p (C 0 | M0) = 0.U perfektnoj ifri je,

    p (C 0 | M0) = p (C 0) > 0.

    Kontradikcija! Stoga to nije perfektna ifra.Prema tome, za svaku perfektnu ifru vai l n.

  • 7/29/2019 Teorija Informacija - Claude Shannon

    26/29

    Primer: Monoa fabetska ifra

    Sluajna monoalfabetska zamena nijeperfektna ifra za poruke do 20 slova:

    l = 26! n = 2620

    l < n to nije perfektna ifra.

    U prethodnom dokazu, moemo izabrati C0 = ABi M0 = eei p (C 0 | M0) = 0.

  • 7/29/2019 Teorija Informacija - Claude Shannon

    27/29

    Primer: Monoal fabetska ifra

    Da li je sluajna monoal fabetska ifra zamene perfe ktna ifra za poruke do 2 slova?

    l = 26! n = 26 2l n.

    Ne! Pokazivanjem da je l n nije dokaz perfektnosti.

  • 7/29/2019 Teorija Informacija - Claude Shannon

    28/29

    Zakljuak ifra je perfektna: i, j: p (M i|C j) = p (M i)

    Za svaki ifrat, verovatnoa da odgovaraproizvoljnoj poruci je ista.

    Ekvivalentno, i, j: p (C i|M j) = p (C i)Za svaki otvoreni tekst, verovatnoa daodgovara proizvoljnom ifratu je jednaka.

  • 7/29/2019 Teorija Informacija - Claude Shannon

    29/29

    Neperfektne ifre Da bi se dokazala neperfektnost:

    Nai ifrat za koji je verovatnije da odgovara jednoj nego nekoj drugoj poruci

    Pokazati da ima vie poruka nego kljueva Odavde proizilazi da je za neki ifrat verovatnija jedna poruka u odnosu na neku drugu, ak i ako tuporuku ne moemo nai.