pléh csaba bme kognitív tudományi tanszéke és ceu dep of cognitive sceince [email protected]

54
Az entrópia fogalomrendszere a nyelvi elemzésben Előadás a BME TTK Wigner Jenő Szakkollégiumában, 2011.november 17 Pléh Csaba BME Kognitív Tudományi Tanszéke és CEU Dep of Cognitive Sceince [email protected] Németh Kornél, Varga Dániel, Fazekas Judit és Várhelyi Klára közreműködésével

Upload: indira-mays

Post on 31-Dec-2015

30 views

Category:

Documents


0 download

DESCRIPTION

Az entrópia fogalomrendszere a nyelvi elemzésben Előadás a  BME TTK Wigner Jenő Szakkollégium á ban, 2011.november 17. Pléh Csaba BME Kognitív Tudományi Tanszéke és CEU Dep of Cognitive Sceince [email protected] - PowerPoint PPT Presentation

TRANSCRIPT

A complex study of visuo-spatial perception and memory in Hungarian Williams syndrome children Racsmny, M.; Lukcs, ., Plh, Cs., Kovcs, I. University

Az entrpia fogalomrendszerea nyelvi elemzsben Elads aBME TTK Wigner Jen Szakkollgiumban, 2011.november 17

Plh CsabaBME Kognitv Tudomnyi Tanszke s CEU Dep of Cognitive Sceince [email protected] Kornl, Varga Dniel, Fazekas Judit s Vrhelyi Klra kzremkdsvel

ttekints 1950-es vekben az entrpia fogalma a nyelvi folyamatok rtelmezsben. Kezdeti lelkeseds.Chomsky kritikjaAz utbbi vtized a nagy digitlis szveganyagok rvn: Shannon renesznsz Akusztikus bejslsi (gating) s olvasott szavakra vonatkoz sztri dntsi ksrletek a magyarban Szerkezeti megfontolsokmellett az entrpia vltozs segtsgvel magyarzni.

Csaba Kornl Dani Klra Judit

Gating EntrpiaLexDec

Priming A nyelvszeti informcielmleti rdeklds szakaszaiKorai lelkeseds: Nyelvszeti kritika Visszajn a statisztika a statisztika

1950 Shannon 1960 Chomsky 1990 Kostic Miller G. Miller Bayern Saffran Informcielmlet s nyelv Shannon korban

KDKD KONTEXTUS Nyelvi kvetkezmnyek 1. feldolgozsi korlt s tvitte informci2. redundancia s szfelismers3. statisztikai kzeltsek a nyelvhez s a feldolgozhatsg Kapacitskorlt George Miller, 1956: a mgikus hetes szmNem egysgnyi informci mennyisg, hanem tmbk szma korltoz

Pl. bet-szm-rvid sz Chunking, tmbsts

4521173

452-11-73

Hats jellege Modalits Vltozk F eredmnyExpozcis id a gyakorisg fggvnye Vizulis Gyakorisg s felismersi id Logaritmikus fggvny, megfelel az informcinak Zaj rontja a felismerst Akuszt Jel-zaj arny,szhossz Felismers zajban romlik Expozcis id javtja a felismerst Vizulis Id hatsa 0-55 ms Statisztikai kzelts Id javt, de a statisztika hasonlsg ugyangy Nyelvtani szervezds javt Akuszti kus Jel-zaj arny, sztag, szavak, mondatok Mondat >sz>sztag zajban Mondatkontextus AkusztikusJel-zaj arny, elszigetelt sz s mondat Mondat segti felismerst Nhny klasszikus szfelismersi hats Miller, 1951 alapjn Informcielmleti szlels kutatsG. A. MillerZaj s szlels Expozicis id s felismers

Statisztikai kzeltsek 0-d rend: mellkesen kvetkezmny csinosan bankr hajlik ram 1. rend : kpessg rvn mely engem kering tged a varrs 4. rend : lttam a meccset befejezik szilveszter jjel7 rend : ismerem zenei kpessgeit miutn bemutatta eltte

Kiterjesztve a nyelvre rtelmessghats

Szavak s mondatok

Statisztikai kzelts szintje

Korai felvetsek az informcis alap morfolgirlAntal Lszl (1964) a sz testben az ltalnos tendencia az entrpia fokozatos cskkense. Morfmahatron megszakad ez a cskkensigaz-sg-os-ak-at

Miller s Chomsky megfordtjk a trendet:mindez legfeljebb egy gyenge Markov modell A Chomsky hierarchia s a pszicholingvisztikaNemcsak a nyelvtanra, hanem a nyelvi viselkedsre is algebrai modell kellAbbl is nem akrmilyenVges llapot nem elg Az ellenrdekeltek szerint igen, ha a grf gaihoz valsznsgeket rendelnk

A viselkeds s nyelvi modellA nyelv minden viselkeds analgija leszValjban a bels reprezentci modelljeDe modellje a feldolgozsnak isAmi approximations to English volt, most grammatikalits lesz

Mi trtnik ma? Induljunk ki a fnevek szerkezetbl Szmok rendelhetek hozzElgazs szm token s type entrpia Eltr dntsi pontokon

embernknekembernktlembernkihez

embereinkkelembereinknek

emberenknt

embertemberhezembertlemberig

emberk

A szfelismers modelljei Cohort-modell - hallott szavak felismerse mr az els sztag alapjn

sszefgg szveg ers igazodsizollt szavaknl & rtelmetlen szvegek kevesebb az elvrsi hats

McClelland & Rummelhart (1981) vizulis felismersi modella versengsrl

Marslen-Wilson (1987)Kompatibilis szavak automatikus aktivcijaKivlasztsGATING a paradigmaBevett szfelismers vizsgl eljrsNincsenek magyar adatokJl kontrolllhat vltozk

Francois Grosjean (1980)melyek a szfelismers kritikus pontjai?szemly szavakbl hallgat egyre nagyobb rszeketHatsok:Gyakorisg (gyakoribbak rosszabb teljestmny)Szhosszsg (hosszabb szavak rosszabb teljestmny)Kontextus (mondatba foglalva jobb a teljestmny)

a nvekv, sorozatszer, inkrementlis bemutatsnak nincs hatsa (Cotton s Grosjean, 1984) IngerekszgyakorisgLemmagyak.Egyed. pontEls 4 entrpiaszgyakorisgLemmagyak.Egyed. pontEls 4 entrpiabllr861913bll0,603096asszony50211875692assz1,540912cc1121963cc0frum1676344169063fru0csbr631513csb0szoftver31974712513szof0,076625dunna771863dunn0,652352utca503811418773utca1,019915dzsd1281733dzs1,139827ppa25598342523ppa1,069351gz1681723gz0,583207szfra11602261483szf0,045589gysz571663gys1,472454tonna11982182323tonn0,597695kgli661813kgl0veg12906288873veg3,004682lucsok661563lucs0,777575kenyr10883332803keny1,081985nbob1211743nbo0tpus13921529443tpu1,068367pcsik673pcs0msor17263764733mso1,100964rcsk8453rcs0,49999ablak19222709433abla0,837288sassz341283sass1,849419dollr13876386623doll0,028648zr14343zr0,443576nnep12579504542nne2,838832zsepi631513zsep0japn17879363393jap0,213908bgly901615bg0csald710772189995csal2,471073cinke31855cink1,948223krds1337715731545krd1,426039dublr21825dubl1,594457oldal1047864877285olda0,752174krokett461605krok1,383661szemly1035172921095szem4,187367pnyva281145pny1,231779tanr1034522075615tan2,713847pincsi151085pinc2,014432vlasz713642108545vla3,116823polka1001685polk0,289986vros1714663379305vro1,767857prly431645pr1,022923tancs951371829865tan2,713847rozmr801885rozm0,560543termk523272036345term3,705582stla621875stl0csapat527671373085csap2,467515trojka931595troj0verseny595571479106vers3,02390tartr48806tart3,096681szzad706031481265szz2,25829stangli17677stan1,35673osztly394831316505oszt3,42107strzsa1523507str1,783065nemzet42976817506nemz2,381595svindli1501987svin1,001279vizsga32912933465vizs2,54094Korai Ksi RITKAGYAKORIA gyakorlatbanKapuk90 ms120 ms210 ms300 ms390 ms

A szavak sorrendje random

Ha helyes volt egy adott kapunl a vlasz (KV regisztrlja a RI mrst kveten (csak 2. ksrlet) SRB, mikrofon), akkor ugrik a kvetkez sz 1. kapujra (90 ms)

Konfidencia dnts 1 - egyltaln nem biztos2 - inkbb nem biztos3 - inkbb biztos4 - teljesen biztos

Inkrementlis bemutatsGating a szgyakorisg s az egyedisgi pont hatsa a szfelismersreGyakori koraiGyakori ksi

Ritka koraiRitka ksi

90 120 210 300 390 (ms)

ablaknemzetbllrtartrI. Ksrlet - pontossgGyakorisg fhatsEgyedisgi Pont fhatsKapu fhats

Gyakorisg X Egyedisgi PontGyakorisg X KapuEgyedisgi Pont X Kapu

Gyakorisg X Egyedisgi Pont X Kapu

Helyes vlaszok (%) 51 rsztvev; 20 frfi (21,12 v, SD=1,37) s 31 n (20,41 v, SD=0,97)p