Principalele aspecte privind ipotezele şi estimatorii în ... · (1982). În analiza unei...

Revista Română de Statistică - Supliment nr. 11 / 2016 145

Principalele aspecte privind ipotezele şi estimatorii în regresia univariată

Prof. univ. dr. Constantin ANGHELACHEAcademia de Studii Economice din București/Universitatea „Artifex„ din BucureștiConf. univ. dr. Mădălina-Gabriela ANGHELUniversitatea „Artifex„ din București Conf. univ. dr. Aurel DIACONU PhdUniversitatea „Artifex„ din București Drd. Georgiana NIȚĂAcademia de Studii Economice din BucureștiDrd. Alexandru BADIUAcademia de Studii Economice din București

Abstract Utilizând conceptul de regresie şi regresie liniară a modelelor specifi ce, se pot studia probleme de estimare şi testare. Mentionam unele noţiuni generale ale regresiei lineare. Luam in considerare un model statistic unde este domeniul eşantion de dimensiunea este domeniul parametru, şi este familia distribuţiilor de eşantionare.Utilizand teoria lui Frisch şi Waugh care în 1933 au arătat că regresia cu o variabilă ne-orientată este aceeaşi ca şi în cazul unei variabile adiţionale în regresia de bază, se va incerca estimarea unei parti a vectorului β. In acest sens, putem efectua demonstratia luand in considerare modelul regresiei. De asemenea, pentru analiza predicţiei putem sa considerăm modelul liniar iniţial. Cuvinte cheie: funcţie integrabilă, probabilitate condiţională, proiecţie ortogonală, variabilă exogenă, regresie univariată

Introducere In acest articol se va urmari prezicerea variabilei endogene dincolo de perioada de observaţie. Notíunile de probabilitate condiţională şi probabilitate condiţională liniară – sau regresie liniară sunt comune în termeni de proiecţii ortogonale în sensul normei L2, pe mulţimea funcţiilor integrabile ale unui vector oarecare z, indicat de L2(z), şi pe mulţimea funcţiilor liniare ale lui z, indicată de L2(z). Prezentarea modelul regresiei în termeni de probabilităţi, este, în cazul liniar, identic cu cel al lui Spanos (1986), care îl denumeşte model de regresie liniară în contrast cu modelul liniar al lui Gauss, defi nit de ecuaţia obişnuită. Pentru cel din urmă, variabilele exogene par hotărâtoare. Într-adevăr, modelul regresiei liniare este bazat pe argumente generale probabilistice şi modelul liniar gaussian este doar un caz particular. În această prezentare, mai degrabă generală a modelului regresiei, putem adânci studiul în lucrările aceluiaşi autor.

Literature review Principalele aspecte pentru modelul logaritmic liniar se regăsesc în lucrarea lui Greene (1990). Pentru a demonstra convergenţa lui la , se poate consulta Monfort (1982). În analiza unei comparaţii a procedurilor de test în Wald, Rao, şi LR pentru cazul în care ipoteza nulă poate fi exprimată în forma , se poate adânci studiul autorilor Judge, Griffi ths, Hill. Lutkepohl, şi Lee (1985) şi Spanos (1986).

Romanian Statistical Review - Supplement nr. 11 / 2016146

În cazul regresiei parametrice neliniare, indicăm spre studiu suplimentar Bierens (1994), Gouriéroux şi Monfort (1996a, Volumul I), Greene (1990, Capitolul 11), Spanos (1986); iar pentru testul restricţiilor liniare - Bierens (1994). Partea privitoare la modele specifi cate eronat poate fi adâncită prin studiul lucrărilor lui White (1980), Florens, Ivaldi şi Larribeau (1996), Gallant şi White (1988), şi White (1994). În ceea ce priveşte modelul regresiei liniare, o dovadă mai riguroasă a echivalenţei OLS şi metoda momentelor pot fi găsite în Gouriéroux şi Mon-Fort (1996a). Modelul restricţionat de regresie a fost studiat de numeroşi autori, în special Gouriéroux şi Monfort (1996a, Volumul 2), Greene (1990), Spanos (1986), Judge, Griffi ths, Hill, Lutkepohl, şi Lee (1985), şi Judge, Hill, Griffi ths, Lutkepohl, şi Lee (1988). Pentru a arăta că este BLUE, pot fi consultaţi în special Judge, Hill, Griffi ths, Lutkepohl, şi Lee (1988). Pentru o estimare, puteţi consulta Spanos (1986), Greene (1990), şi Judge Hill, Griffi ths, Lutkepohl, şi Lee (1988).

Metodologie și date Vom încerca să estimăm o parte a vectorului β. Pornim de la teoria lui Frisch şi Waugh care în 1933 au arătat că regresia cu o variabilă ne-orientată este aceeaşi ca şi în cazul unei variabile adiţionale în regresia de bază. Pentru a demonstra aceasta, vom considera modelul regresiei, dat de relaţia:

unde Z = [Z(1), Z(2)]şi

)2(

)1(

sunt considerate într-un mod asemănător.

Estimatorul lui β(2) se deduce la fel, n , pentru β, adică:

Utilizând formula inversă a matricelor rezultă:

cu 1)1()'1()1(1 )( ZZZIM . 1M este matricea proiecţiei pe hiperplanul

care este ortogonal pe cel inclus în coloanele lui Z(1). Un mod diferit de a obţine )2(ˆ

n , constă în aplicarea unei proceduri în trei etape: în prima etapă, îl regresăm pe y pe Z(1) pentru a obţine yM1 ; în a doua fază regresăm fi ecare coloană a lui Z(2) pe Z(l) pentru a obţine matricea Z(1) ale cărei coloane sunt rămase de la fi ecare regresie; ultima fază constă în a regăsi yM1 pe 1M Z(2) care corespunde modelului:

Estimatorul OLS a lui )*2( este dat de:


1M este o matrice idempotentă. Distribuţia eşantionului fi nit în condiţii de normalitate se bazează pe cele patru condiţionări care conduc la relaţia: (1)

Din moment ce n , este liniar pe, aceasta înseamnă că pentru toate i=1,…,q, obţinem:

(unde ijZZ 1)'( este elementul din rândul i şi coloana j a lui (Z’Z)-1 ) şi în fi nal ajungem la:

(2)

În continuare, putem deriva egalitatea din expresia pentru 2ˆ n obţinând:

(3)

Această mărime este o formă pătratică a unui vector u

, care urmează o

distribuţie normală standard şi este distribuit în conformitate cu un 2 având (Mz) = tr(Mz)= n - q grade de libertate. Totodată, vectorul este independent de ( 2ˆ n ). Pentru a demonstra aceasta, vom pleca de la relaţia:

(4)

Ştim că o condiţie sufi cientă pentru independenţa dintre o transformare liniară Ax şi o formă pătratică x’Bx unde x este N (0, 1) este ca AB = 0. În consecinţă, este sufi cient să arătăm că din moment ce Z’My = 0.

În plus, cunoaştem faptul că dacă x este distribuit N (0, 1) şi r urmează distribuţia m

2 şi este independent de r, atunci raportul mzx // urmează o distribuţie T-Student cu m grade de libertate. Astfel, variabila n , defi nită ca raport între expresiile independente menţionate în relaţiile (2) şi (3), rezultă din relaţia:

Variabila urmează o distribuţie-t cu n - q grade de libertate (notată cu qnt ). • Aceste aspecte sunt rezumate în faptul că „În cadrul condiţionărilor 1-4, estimatorii OLS ai unităţii β 2 au proprietăţile:


toate condiţionate independent pe Z.

(iv)

• Să luăm în considerare un exemplu simplu al modelului regresiei cu

; pentru i=1,…,n. Pentru testarea

ipotezei nule 0221 : H împotriva ipotezei alternative 0

221 : H , unde 02 este

fi xat, alegerea evidentă fi ind:

În acest context vom avea:

În cadrul nH ,0 , distribuit în conformitate cu distribuţia-t cu n — 2 grade de libertate, procedura de test a mărimii constă în respingerea lui 0H dacă şi numai dacă

Ipoteza care este testată foarte des în aplicaţii empirice este ipoteză că un parametru este zero, de exemplu 0: 20 H . În acest caz, folosim raportul

denumit raportul-t sau statistica-t.

Uneori, avem informaţii anterioare despre model înainte să observăm eşantionul. Să presupunem că această informaţie poate fi exprimată ca restricţii liniare de forma ,, unde r este un vector J x 1 şi este o matrice J x q de rangul J < q şi unde atât r şi sunt cunoscute. Estimarea OLS constă în soluţionarea egalităţii:

(5)


în care k este restricţia Rλ - r = 0. Lagrangian-ul este dat de relaţia

. În această relaţie μ este vectorul J x 1 a multiplicatorilor lui Lagrange. Soluţia sistemului de ecuaţii dată de condiţiile de prim ordin duce la estimatorul OLS restricţionat al lui β, pe care îl notăm cu *ˆ

n

(6)

Ştiind că estimatorul OLS n , al lui β satisface yZZZ n 'ˆ' , şi înlocuim Z’y cu Z’Z n , în prima ecuaţie a sistemului de mai sus, obţinem:

(7)

Înmulţind această ultimă egalitate cu R rezultă:

astfel încât:

Apoi, înlocuind această expresie pentru μ în ultima egalitate obţinem expresia pentru *ˆ

n :

, (8) în care, dacă n satisface restricţia Rβ = 0, atunci nn ˆˆ * . Un exemplu al unui model cu o restricţie liniară este cel al funcţiei Cobb Douglas cu condiţionarea reducerii la o rezolvare prin logaritmare:

cu 132 sau rR cu R =(0,1,1) şi r=0.

Menţionăm că, în cazurile simple cum ar fi acesta, este mai convenabil să îl transformăm într-un model de regresie fără constrângeri. Stabilind că 23 1 , obţinem din nou modelul nerestricţionat:

Cunoscând momentele lui n , putem să le derivăm pe cele ale lui *ˆ

n . Mai întâi de toate *ˆ

n este un estimator imparţial al lui β. Într-adevăr, din formula (8) rezultă:

Mai mult, din (21) putem să deducem o expresie diferită pentru *ˆn ,

respectiv:


cu condiţia:

Din această relaţie obţinem:

Sub condiţia de normalitate, din moment ce n este distribuit normal, atunci şi *ˆ

n este distribuit normal, de exemplu,

Să presupunem că înainte de estimarea modelului restricţionat, vrem să testăm: cu R şi r cunoscute. Sunt posibile două situaţii: - dacă J=1 (există doar o singură combinaţie liniară), atunci

(9)

în 0H deoarece:

Ipoteza nulă este respinsă dacă valoarea acestui test este mai mare decât o valoare critică corespunzătoare nivelului de semnifi caţie dat. - dacă J ≥ 2, atunci ştim că estimatorul OLS n satisface relaţia:

Din aceasta deducem că

sau

şi în fi nal rezultă:

(10) deci X2, distribuit unde m este dimensiunea lui A, având în vedere şi relaţia:

(11)

Expresiile (10) şi (11) sunt independente din moment ce n şi n2 sunt

independente. Raportul acestor două expresii împărţit cu respectivele lor grade de libertate continuă o distribuţie F (Fisher), după relaţia:


Concluzia este că în ipoteza nulă satisface:

(12) Respingem ipoteza nulă când această valoare este mai mare decât una critică pentru un nivel de semnifi caţie care este preluat din tabelul distribuţiei F cu J şi n - q grade de libertate. Observaţi că pentru J = 1, această valoare este egală cu:

ceea ce este tocmai pătratul expresiei date )),1( 2qntqnF .

Procedura de testare a raportului de probabilitate în cadrul condiţiei de normalitate, rezultă din formula:

Precizăm că acest raport este cel al expresiilor care rezultă din (11) şi (12), şi astfel se satisface egalitatea:

CR F .

Dacă defi nim STP ca sumă totală a pătratelor, SRP ca sumă reziduală a pătratelor şi SEP ca sumă a pătratelor rezolvată din sistemul:

atunci este valabilă egalitatea

Aceasta se demonstrează uşor:

Constatăm că produsul uy ˆ'ˆ este zero în conformitate cu condiţia de prim ordin a reducerii (7), respectiv:

0)'ˆ(''ˆˆ''ˆˆ'ˆ nnn ZyZuZuy .


De aici deducem: Putem defi ni coefi cientul determinării sau pătratul coefi cientului corelării multiple ca

Aceasta măsoară partea varianţei care este explicată de model şi este cuprinsă între 0 şi 1, cu condiţia că matricea Z conţine o coloană de “l”. Pentru aceasta şi pentru alte motive neenumerate aici, întotdeauna presupunem că această cerinţă este satisfăcută. Unul dintre dezavantajele lui R2 este că orice adăugare a unei valori explicative măreşte acest coefi cient. Introducând R2, ajustat, notat cu 2

AR sau 2R , care ia în considerare numărul de parametri obţinem:

Constatăm că 22 RRA . Ne propunem acum să testăm ipoteza că toţi coefi cienţii cu excepţia celui al constantei, sunt zero, de exemplu: 0...: 20 qH , împotriva ipotezei alternative că cel puţin unul dintre ei este diferit de zero. Testul notat cu FR, este defi nit ca proporţie a SSE/(q - 1) şi SSR/(n - q), care urmăresc distribuţiile x2 cu n - 1 şi, respectiv, n — q grade de libertate. Aceşti termeni sunt independenţi deoarece

conţin termeni în n , şi în 2ˆ n care sunt independenţi. Astfel,

)/()1()1/(

)/()1/(

2

2

qnRqR

qnSSRqSSEFR (13)

urmăreşte o distribuţie-F F(q – 1,.n - q) în cadrul 0H . Dacă FR este mare atunci ipoteza nulă este respinsă. Această expresie ar fi putut fi obţinută începând cu testul Fc. Într-adevăr,

0H poate fi scris ca rRH :0 cu matricea R a (q - 1) x q şi vectorul r a (q - 1) x 1 dat de

Astfel, avem în cazul acesta J = q — 1. Să considerăm mai întâi vectorul *u defi nit de unde *ˆ

n este estimatorul modelului de regresie restricţionat. Putem scrie:

şi astfel:


Ceilalţi termeni dispar, din moment ce 0ˆ' uZ , şi obţinem:

înlocuind )ˆˆ( *

nn cu expresia dată de (8). Conform (12), Fc poate fi scrisă sub forma:

Împărţind numărătorul şi numitorul la

n

ii yy

1

2)( obţinem:

Mai mult, *u este restul modelului restrâns, ( *1 ii uy ). Estimatorul

OLS al lui 1 este yn *1 , şi de aici rezultă:

• Pentru analiza predicţiei considerăm modelul liniar iniţial. Problema constă în prezicerea variabilei endogene dincolo de perioada de observaţie. Să presupunem că 1nz , se pot observa pentru l > 1 şi

atunci

cu

Variabila observabilă )1(1 lyn poate fi dedusă din:

Eroarea este defi nită de

şi poate fi de asemenea scris ca

Precizăm că 1ˆ ny este o estimare imparţială pentru 1ny din moment ce

unde },{ 1

)1( nzZZ . Astfel, obţinem:


În plus, variaţia condiţională a lui 1ˆ nu este

Pentru că 1ˆ nu este o funcţie liniară a unor variabile aleatorii distribuite normal, avem:

(14)

pentru l ≥ 1. Subliniem că 1ˆ ny este o variabilă independentă în sensul că 1ˆ nu are cea mai mică variaţie dintre toate variabilele imparţiale.

Pentru a construi un interval de încredere pentru 1ˆ ny , folosim relaţia 14:

, în condiţiile:

Aceste două expresii sunt independente şi raportul lor urmăreşte o distribuţie t-student, dată de relaţia:

care poate fi folosită pentru a construi intervale de încredere. În continuare vom studia proprietăţile asimptotice ale estimatorului OLS. Cunoaştem că estimatorul n poate fi considerat estimator al momentului particular. Să ne amintim relaţiile:

şi

stabilite conform legii numerelor mari. Prin urmare,

Ultimul rezultat depinde de două condiţii. Pe de-o parte, inversabilitatea lui

n

iii zz

n 1'1 (or of Z’Z), care este o soluţie a identifi cării în eşantioane fi nite şi


garantează existenţa unui estimator unic pentru o mărime dată a eşantionului. Această inversabilitate presupune condiţia:

Pe de altă parte, inversabilitatea lui )'( ii zzE garantează unicitatea asimptotică şi este condiţia de identifi care pentru problema considerată.

Inversabilitatea lui )'( ii zzE implică inversabilitatea lui

n

iii zz

n 1'1 pentru

n sufi cient de mare (reciproca este evident, falsă). Relaţia:

a fost abordată anterior. Pentru a arăta normalitatea asimptotică, pornim de la egalitatea:

Constatăm că

şi folosind teorema limitei centrale, putem verifi ca faptul că

unde este centrat vectorul iiuz . Concluzia este că:

Vom observa că

În condiţia 0)|( iii zzuE , obţinem:

Dacă vom considera 2)|( ii zuVar pentru toate i, obţinem:

(15)

Momentele teoretice )'( ii zzE sunt estimate sistematic de momentele

empirice

n

iii nZZzz

n 1/''1 . Similar, 2 este estimat sistematic prin n

2 , adică:


Un estimator natural al lui 12 )]'([ ii zzE , notat cu n , este dat

de relaţia:

din care deducem:

n urmăreşte o distribuţie normală cu β mediu şi variaţia 12 )'(ˆ iin zz .

Astfel, găsim aceeaşi distribuţie ca şi în eşantionul fi nit. Acest rezultat se extinde la toate funcţiile continue ale lui β; dacă pornim de la 8.28 şi dacă g este o funcţie continuă diferenţială de la

q laJ , atunci:

Să considerăm un model liniar logaritmic de forma:

, care se rezolvă prin liniarizare

unde 121 uzy ii ,

aplicăm substituţiile AYy ii lnln 1, , şi ii Zz ln . Estimarea OLS dă, in special estimatorul n1 al lui 1 . Acest estimator este consistent şi rezultă:

sau

Fie nA un estimator al lui A, dat de neAn1ˆ . În acest caz, g este funcţia

exponenţială. Atunci, )ˆ(ˆ1nn gA este un estimator consistent al lui )( 1gA

şi distribuţia sa asimptotică este dată de


Totuşi, observăm că pe eşantioane mai mici şi sub presupunerea că iYln sunt distribuţii normale, distribuţia lui nA nu este normală, ci logaritmic-normală. Pentru a testa ipoteza nulă 0:0 iH faţă de ipotezele alternative 0:0 iH , este sufi cient să folosim testul:

Aceasta continuă o distribuţie N(0,1) în cadrul H0. Aici, 1)'(

ijZZ este elementul de pe linia cu nr. i şi de pe coloana cu nr. j a lui 1)'( ZZ .

Concluzii In cadrul acestei lucrari au fost scoase in evidenta unele aspecte teoretice si practice cu privire la utilizarea modelului linear pentru analiza predictiei. Modelul regresiei liniare s-a bazat pe argumente generale probabilistice şi modelul liniar gaussian fi ind doar un caz specifi c. În această prezentare generală a modelului regresiei s-a aprofundat studiul lucrarilor aceluiasi autor. Notíunile de probabilitate condiţională şi probabilitate condiţională liniară – sau regresie liniară sun comune în termeni de proiecţii ortogonale în sensul normei L2, pe mulţimea funcţiilor integrabile ale unui vector oarecare z, indicat de L2(z), şi pe mulţimea funcţiilor liniare ale lui z, indicată de L2(z). In prezentul articol a fost utila considerarea unui model statistic unde domeniul eşantion de dimensiunea este domeniul parametru, fi ind familia distribuţiilor de eşantionare.Avand in vedere faptul că regresia cu o variabilă ne-orientată este aceeaşi ca şi în cazul unei variabile adiţionale în regresia de bază, s-a incercat estimarea partiala a vectorului β. Pentru aceasta a fost utila utilizarea modelul regresiei si utilizarea modelului liniar initial pentru analiza predictiei.

Bibliografi e 1. Anghelache, C., Partachi Ioan, Anghel, M.G., Sacală, C., Marinescu, A.I. (2016). Model

statistico-econometric de analiză dispersională / Statistical-econometric Model for dispersion Analysis, Romanian Statistical Review Supplement, Issue 5/2016, pp. 121-130/131-140

2. Anghelache, C., Anghel, M.G. (2016). Bazele statisticii economice. Concepte teoretice şi studii de caz, Editura Economică, Bucureşti

3. Anghelache, C., Ursache, A., Dradomir, B., Bardaşu, G., Popovici, M. (2015). Testing of the Signifi cance of the Regression Model, Romanian Statistical Review – Supplement, No. 4, pp. 16-18

4. Anghelache, C., Sacală, C., Stanciu, E. (2015). Regression models using the instrumental variables, Romanian Statistical Review - Supplement, No. 9, pg. 138 – 146

5. Anghelache, C. (2013). Elemente de econometrie teoretică, Editura Artifex, Bucureşti 6. Anghelache, C., Lilea, F.P.C. (2012). Econometrie, Editura Artifex, Bucureşti 7. Bollerslev, T., Tauchen, G., Zhou, H. (2009). Expected stock returns and variance risk premia,

Review of Financial Studies 22 (11), pp. 4463–4492 8. Elliott, G., Müller, U.K., Watson, M.W. (2015). Nearly Optimal Tests When a Nuisance

Parameter is Present Under the Null Hypothesis, Econometrica, 83, pp. 771—811 9. Gach, F., Pötscher, B.M. (2011). Nonparametric Maximum Likelihood Density Estimation

and Simulation-Based Minimum Distance Estimators, Mathematical Methods of Statistics 20 (December 2011), pp. 288–326

10. Ghysels, E. (2001). The Econometric Analysis of Seasonal Time Series, Cambridge University Press

11. Phillips, P.C.B., Sun, Y., Jin, S. (2006). Spectral Density Estimation and Robust Hypothesis Testing using Steep Origin Kernels without Truncation, International Economic Review, 47, pp. 837—894.

12. Stancu, S., Andrei, T., Iacob, A.I., Tusa, E. (2008). Introducere în econometrie utilizând EViews, Editura Economică, București

Date post:	27-Oct-2019
Category:	Documents
Upload:	others
View:	1 times
Download:	0 times

Principalele aspecte privind ipotezele şi estimatorii în ... · (1982). În analiza unei...

Documents