pdf ML-cours

URCA Hugo Harari-Kermadec2008-2009 harari@ecogest.ens-cachan.frEconometrie 1 : Modele lineaireI Outils d’algebre lineaireI.1 ProjectionsSoitX une matrice an lignes etp colonnes avecpn. On note classiquementX2M (R).R est sous-entendunpdans la suite.Proposition I.1 (Projection) Si X est de rang p alors1. la projection sur Vect(X) a pour matrice0 1 0P =X(X X) XXappartient aM ,nn2. la projection sur l’orthogonal de Vect(X) est0 1 0P ? =I P =I X(X X) X ;X n X n3. le rang de P est egal a la dimension de Vect(X) et est donne par la trace de P ,X X4. P est une matrice de projection doncX2 0P =P P =PX XX XI.2 Derivation matricielleSoit A2M et X2M alorsnp p1@ 0AX =A:@XSi A est symetrique (et donc n =p),@ 0X AX = 2AX:@XII Modele et estimationLe modele lineaire pour explique Y a l’aide de K variables explicatives et d’une constante s’ecrit pour uneobservation i :KXY = + x +" ;i K+1 k i;k ik=1c’est- a-direY =X +" ;i i i0 K+1avec X = (x ;:::;x ; 1)2M et = ( ;:::; ; ) 2R .i i;1 i;K 1;K+1 1 K K+1On a alors pour n observations :Y =X +E;0 n 0 n 0avec Y = (Y ;:::;Y ) 2R ,E = (" ;:::;" ) 2R et X = (X ;:::;X ) 2M .1 n 1 n 1 n n;K+11II.1 EstimationOn va utiliser les hypotheses suivantes :H : les colonnes de X sont lineairement independantes,1nH :E[EjX] = 02R .22H : Var(E) = I .3 nDe nition II.1 (Estimateur des moindres carres) L’estimateur des moindres carres est de ni par2^ = arginf jjY Xjj :K+12RProposition ...