Estimateur

(25 pts) Y = Xβ + o` u X est une matrice T x N , E( ) = 0 et E( ) = σ 2 I o` u I est une matrice identit´e de dimension N x N . (a) D´erivez l’estimateur de β obtenu en minimisant le crit`ere des moindres carr´es ordinaires. (b) D´emontrez que cet estimateur est sans biais et d´erivez sa matrice de variancecovariance. (c) D´emontrez qu’en pr´esence d’une constante dans la r´egression, l’estimateur des moindres carr´es ordinaires de cette constante est l’estimateur lin´eaire sans biais `a variance minimale

de densité de la variable X 7. Les estimateurs empiriques de k et ϴ Nous considérons maintenant que nos données sont des réalisations de variables aléatoires et identiquement distribués selon une loi gamma. On peut montrer que si la variable X suit une loi gamma alors : E (Г) = k /ϴ et Var(Г) = k / ϴ² Estimons d’abord l’espérance et la variance de la variable X par la moyenne empirique et par la variance empirique, ce qui nous permettra de déduire les estimateurs des paramètres k et ϴ que nous noterons

génératrice des moments. 2.4. Fonctions de variables normales (Chi-carré, Student, Fisher). III. Estimation ponctuelle 3.1. Echantillon aléatoire, estimateur, estimation. 3.2. Fonction de vraisemblance. 3.3. Maximum de vraisemblance. IV. Propriétés des estimateurs 4.1. Estimateur sans biais 4.2. Estimateur convergent. 4.3. Estimateur efficace. 4.4. Minimisation de l’erreur quadratique moyenne. 4.5. Interprétation des propriétés. V. Tests d’hypothèses 5.1. Méthode des intervalles

d’information de Fischer . . . . . . . . . 28 2.1.2 Unicité du maximum global de la fonction de log-vraisemblance . . . . . . 30 2.2 Algorithmes de maximisation de la vraisemblance . . . . . . . . . . . . . . . . . . 32 3 Propriétés Asymptotiques des Estimateurs du Maximum de Vraisemblance . . . . . . . 35 3.1 Convergence du Critères de MV . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35 3.1.1 Convergence d’estimateurs dans les modèles non linéaires . . . . . . . . . 36 3.1.2 Application aux modèles

N t 2 t (x − m) N C. Gagn´ e 7 / 32 GIF-4101 / GIF-7005 (U. Laval) M´thodes param´triques e e Biais d’un estimateur d(X ), estimation de θ avec X Qualit´ de l’estimation de d(X ) : (d(X ) − θ)2 e Qualit´ de l’estimateur d : e r (d, θ) = E (d(X ) − θ)2 Evaluation de d sur tous les ´chantillonnages X possibles e Biais de l’estimateur bθ (d) = E [d(X )] − θ Estimateur sans biais : bθ (d) = 0 pour toutes valeurs θ GIF-4101 / GIF-7005 (U. Laval) M´thodes param´triques e e C

de fleurs par plant. C’est un caractère discret quanti- tatif. 3. C’est une fonction de l’échantillon aléatoire généralement noté θ̂ = f(X1, . . . , Xn). 4. Un estimateur non biaisé de la moyenne théorique µ est la moyenne empirique : X̄n = 1 n n∑ i=1 Xi L’estimation associée est : x̄n = 1 80(14 × 3 + · · · + 11 × 7) ≈ 4.96 5. Un estimateur non biaisé de la variance théorique σ2 est la variance corrigée : S′2 n = 1 n − 1 n∑ i=1 (Xi − X̄n)2. On peut aussi utiliser la formule S′2 n = n n−1S2 n où S2

REGRESSION SIMPLE II.1/ Méthode d’estimation des Moindres Carrés Ordinaires (MCO) II.2/ Hypothèses et propriétés des estimateurs des MCO II.3/ Critère de jugement de la qualité de l’ajustement d’un modèle : R² III/ LE MODELE DE REGRESSION MULTIPLE III.1/ III.2/ III.3/ III.4/ Méthode d’estimation des Moindres Carrés Ordinaires (MCO) Hypothèses et propriétés des estimateurs des MCO Critère de jugement de la qualité de l’ajustement d’un modèle : R² , R2c , s Utilisation de variables indicatrices

coefficients : a et b, du modèle. La relation Y = A.X + B est l'équation estimée., tandis que chaque relation yi = A.Xi + B + ui (à ne pas confondre avec la relation « vraie » du paragraphe précédent) fournit le résidu ui correspondant. Les propriétés des estimateurs des moindres carrés, dépendent des caractéristiques de l'aléa . On suppose que les aléas : i, suivent la même loi normale: N(0,), centrée, et d'écart-type :  (inconnu), et sont indépendants, ces présupposés sont généralement appelés les hypothèses

deux dimensions . . . . . . . . . . . . . 40 43 43 44 46 48 50 52 53 53 57 61 61 63 64 67 68 68 71 71 71 72 72 74 75 76 79 3 Estimation 3.1 G´n´ralit´s . . . . . . . . . . . . . . . . . e e e 3.2 Estimateur convergent . . . . . . . . . . . 3.3 Estimateur sans biais . . . . . . . . . . . . 3.4 Estimateur de variance minimum . . . . . 3.5 Une m´thode g´n´rale d’estimation : e e e le maximum de vraisemblance . . . . . . . 3.6 Une bricole sur le th´or`me central limit . e e 3.7 Applications . . . .

des grands nombres et thï¿ 1 orï¿ 1 me central limite 2 2 1.4.1 Loi des grands nombres . . . . . . . . . . . . . . 1 1.4.2 Thï¿ 1 orï¿ 2 me central-limite . . . . . . . . . . . 2 1.5 Echantillon statistique . . . . . . . . . . . . . . . . . . 1.6 Estimateurs . . . . . . . . . . . . . . . . . . . . . . . . 1.6.1 Dï¿ 1 finition . . . . . . . . . . . . . . . . . . . . 2 1.6.2 Consistance . . . . . . . . . . . . . . . . . . . . 1.6.3 Biais . . . . . . . . . . . . . . . . . . . . . . . . 1 1.6.4 Efficacitï¿