جلسه دهمجلسه دهم

تخمين پارامترها - ادامه

مدلسازی سيستم های بيو لوژيکی

دكتر توحيدخواه

روش تعميم يافته حداقل مربعاتروش تعميم يافته حداقل مربعاتGLSGLS

روش اينكه :LSشرط باشد باياس بدون

سفيد .نويز باشد

رنگي اگر ! نويز چه‌؟ باشد

کننده ماتریسسفید صورت این طوری Qدر را

. شود سفید نویز تا کنیم می تعریف

GLS:GLS:

Y U e

QY QU Qe

' 'Y U

e رنگينويز است.

Q ماتريسسفيد كننده

سفيدنويز ω نويز است. است.

GLS (cont):GLS (cont):

ماتريس اگر كه كرد ثابت توان كوروليشن Rمي ماتريس

ماتريس eنويز توان مي بدست Qباشد زير رابطه از را

آورد:

1TQ Q R

GLS (cont):GLS (cont):

' ' 1 ' '

1

1 1 1

( )

( )

( )

T T

T T T T

T T

U U U Y

U Q QU U Q QY

U R U U R Y

روش GLSبنابراين از خاص نوع يك واقع WLSدر

آن در كه W=R-1است

آوري) هاي تخمين (ياد روش

)Enblock ( روش تك تكراري-1

هاي تكراري روش-2

Iterative ( Offline ) روش هاي 2-1

Recursive ( Online ) روش هاي 2-2

آزمايش يك را Iterativeدر آزمايش يك ،N و كرده تكرار بار

تمامي حدس Nاز از تا شود مي استفاده مرحله هر در داده

بازگشتي روش با آن تفاوت و برسيم نهايي مقدار به اوليه

)Recursive( داده تعدادی با بازگشتي، روش در كه است اين

و شود می اضافه داده یک مرحله هر در و زنیم می تخمین

. زنیم می تری دقیق تخمین دوباره

Iterative روش

مثال:

پيدا كردن ريشه هاي معادله به روش نيوتن-رافسون:

1 '

( ) 0

( )

( )k

k k

k

f x

f xx x

f x

این :Recursive روش از زمان با متغیر های سیستم برای. شود می استفاده روش

منحني مثال: زير سطح انتگرال محاسبه

: دارد وجود ويژگي دو روش اين در

افزايش -1 محاسبات خالل در استفاده مورد داده هاي حجممي يابد.

2-. ( مي گردد ( حاصل ، ميان راهي تخمينةاي اعداد سري يك

یک- مانند درواقع و شوند می انباشته زمان در خطاها. کند می عمل گیر انتگرال

SK+1 = SK + T f(Xk)

Model error:

1 - Variance error

2 - Bias error

Same input , different output )Cause: noise(

different input , different output)cause: Model Weakness (

)noise bias (

با : - و است نویز از ناشی خطا این واريانس خطاي

مي زياد واريانس خطاي پارامترها تعداد افزايش

می. کاهش خطا این آزمایشات تعداد افزایش با شود

یابد

نویز- : از ناشی تواند می خطا این باياس خطاي

. پارامترها تعداد افزايش با باشد مدل ضعف یا و بایاس

. شود مي كم باياس خطاي

Variance error:

10 0

1( )( ) .N N

TNP E R

N

ماتريس :كوواريانس

N

N تعداد : : واريانس نويز (ميانگين اندازه گيري

نويز صفر است).

NP

0 0( , ) ( , )TR E t t

0( , )t ماتريس كوواريانس :_

R

0( , ) ( | )d

t y td

گراديان ( حساسيت) پيش بيني نسبت به

1

1( , ) ( , )

NT

N NNt

R t tN

تخمين پارامترهاي

,R

2

1

1( , )

N

N Nt

tN

11N NNP R

N

مي توان نشان داد كه توزيع متغير تصادفي مي توان نشان داد كه توزيع متغير تصادفي

به سمت يك توزيع نرمال با ميانگين و به سمت يك توزيع نرمال با ميانگين و

0..ماتريس كوواريانس ميل مي كندماتريس كوواريانس ميل مي كندN

10( ) (0, )NN N R

NP

كه به صورت زير نمايش داده مي شود:

پارامترهfا بfه کنfترلی هfر چfه حساسfیت نسfبت در سیسfتم هfای

کمfتر باشfد بهfتر اسfت، امfا در شناسfایی سیسfتم هfر چfه حساسfیت

سیسfتم نسfبت بfه پارامترهfا بیشfتر باشfد بهfتر اسfت. چfرا کfه اگfر

خfروجی بfا خfروجی مطلfوب فاصfله داشfته باشfد، بfا تغیfیر کfوچکی

به خروجی مطلوب می رسیم. Өدر

پارامترها تخمين در نمايشي تاثير و حساسيت منحني

ARX بررسي پارامتر هاي مثال:

سيستمي به صورت زير تعريف شده است:

y(t) - 0.9y(t-1) = u(t-1) + e(t)The input u is white noise with variance μ , and the noise {e(t)} white with variance λ

داريم:ARXبا استفاده از مدل

y(t) + ay(t-1) = bu(t-1) + e(t)

Predictor :

( 1)( , )

( 1)

y tt

u t

(0) (0)

(0) (0)y yu

yu u

R RR

R R

2

1 1

2

1 1

( 1) ( 1) ( 1)

( , ) ( , )

( 1) ( 1) ( 1)

N N

i i ii iT

N N

i i ii i

y t y t u t

R E t t

u t y t u t

و ميانگين گيري حاصل داريم :u(t)با ضرب كردن معادله سيستم در

(0) ( ) ( ) 0yuR Ey t u t

u(t) نسبت به y(t-1) ، u(t-1) و e(t) مستقل است.

y(t) - 0.9y(t-1) = u(t-1) + e(t)

و ميانگين گيري داريم :y(t-1)با ضرب كردن معادله سيستم در

(1) 0.9 (0) 0y yR R

(1 0.81) (0) 1.8 (1)y yR R

(0)0.19yR

همچنين با مربع نمودن رابطه فوق و محاسبه ميانگين معادله سيستم داريم:

y(t) - 0.9y(t-1) = u(t-1) + e(t)

1 0.19 1( ) , ( )N NVar a Var b

N N

كاهش واريانس پارامترهاي تخميني در اثر كاهش واريانس ورودي : نتيجه

، نويز سفيد باشد؛ بدون LSاگر در تخمين

باياس بوده و براي ماتريس كوواريانس داريم:

N

تخمين واريانس نويز :2 2 ( ) /( )S V N n

2 1 2 1( ) ( ) ( )T TCov U U

کواریانس می ماتریس محاسبه زیر رابطه از شود :

از بایاس بدون تخمین میشود : یک محاسبه زیر رابطه از

مقدار براي داريم : Vكه

N

tN te

NV

1

2 ),(1

)(