Vraisemblance

Répondez et justi…ez précisément vos réponses. Question 1 : A quel modèle correspond ce programme d’ estimation SAS de la …gure 1. Justi…ez votre réponse. Figure 1: Programme Question 2 : Ecrivez le programme d’ estimation par Pseudo Maximum de Vraisemblance du modèle suivant en utilisant la procédure AUTOREG : p y t = zt ht (1) E yt jyt 1 =0 V yt =yt 1 = 0 + 2 1 yt 1 + 1 ht 1 + 2 ht 2 (2) où zt est un bruit blanc faible. Question 3 : Quel(s) modèle(s) utiliseriez

modèle . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2.2 Estimation des paramètres du modèle . . . . . . . . . . . . . . . . 2.2.1 Estimation par moindres carrés . . . . . . . . . . . . . . . . 2.2.2 Estimation par maximum de vraisemblance . . . . . . . . . 2.3 Tests sur le modèle linéaire . . . . . . . . . . . . . . . . . . . . . . 2.3.1 Tests sur les paramètres . . . . . . . . . . . . . . . . . . . 2.3.2 Analyse de variance de la régression . . . . . . . . . . . . . 2.4 Prédiction

géométriques . . . . . . . . . . . . . . 1.3.1 Représentation des variables . . . . . . . . . . 1.3.2 Le coefficient de détermination R2 . . . . . . 1.4 Cas d’erreurs gaussiennes . . . . . . . . . . . . . . . 1.4.1 Estimateurs du maximum de vraisemblance . 1.4.2 Rappels sur les lois usuelles . . . . . . . . . . 1.4.3 Lois des estimateurs et régions de confiance . 1.4.4 Prévision . . . . . . . . . . . . . . . . . . . . 1.5 Exemple . . . . . . . . . . . . . . . . . . . . . . . . . 1.6 Exercices

une variable x). system ! système d’ équations coef ! paramètres d’ une équation, exemple coef(2) estim (la dimension (2) est optionnelle ; par défaut, l’ objet créé est de taille 1 et contient des 0). logL ! log-vraisemblance utilisée pour estimer un modèle par maximum de vraisemblance model ! système d’ équations simultanées utilisé pour la prévision et la simulation var ! modèle VAR ou VECM 2.2 Dé…nition d’ objet un Une fois l’ objet déclaré, l’ opérateur peut en dé…nir le contenu: -

Estimation ponctuelle 13.1 13.2 13.3 13.4 13.5 13.6 Définition d’un estimateur Principales qualités d’un estimateur Estimateur sans biais de variance minimale Précision intrinsèque d’un estimateur et inégalité de Cramer-Rao Méthode du maximum de vraisemblance (MV) Extension au cas de plusieurs paramètres 220 220 221 227 228 229 232 14 • Estimation par intervalle de confiance 14.1 Définition d’un intervalle de confiance 14.2 Exemples d’intervalles de confiance 14.3 Estimation et intervalle de confiance

ϑ Var(X) = ϑ2 m1’ = X ϑ=X comme on a un seul paramètre à estimer on n’utilise qu’une seule équation, si 2 paramètres on utilise 2 équations. Méthode du maximum de vraisemblance : sélectionner un estimateur qui maximise la probabilité d’observer l’échantillon qui est à notre disposition. Principe : on forme la fonction L (vraisemblance), L(x1, … , xn, ϑ) L = ∏ P(X = xi ) dans la cas discret L = ∏ f(xi) dans le cas continu et on veut maximiser L par rapport au paramètre ϑ. Habituellement on calcul

fonctions sont des densités de probabilité p(x,[pic] ) et l’on cherche à estimer la loi P(x) du générateur d’exemples (le professeur attribue les sorties y = x). On peut montrer alors que , en choisissant d’appliquer le principe de maximum de vraisemblance , minimiser le risque devient équivalent à rechercher parmi les densités potentielles , celle qui est la plus proche de la densité désirée , au sens de l’information de Kullback_Leibler. D(y,y*)=-ln p(x,[pic]) Revenons _a un formalisme uniforme_

. . . . . . . . . . . . . . . . . . . 3.1.1 La r´gression lin´aire et ses probl`mes potentiels e e e 3.1.2 Notation vectorielle et matricielle . . . . . . . . 3.2 R´gression . . . . . . . . . . . . . . . . . . . . . . . . . e 3.2.1 Maximum de vraisemblance . . . . . . . . . . . 3.2.2 Moindres carr´s (Least squares) . . . . . . . . . e 3.2.3 Erreurs de sp´cification . . . . . . . . . . . . . . e 3.2.4 Choix du mod`le . . . . . . . . . . . . . . . . . e . . . . . . . . . . . . . . . . . . . .

2 Maximum de vraisemblance ........................................................................ 86 10.3 Tests de la validité du modèle .............................................................................. 87 10.3.1 Test d’adéquation du Chi-2 .......................................................................... 87 10.3.2 Test « up and down » ................................................................................... 88 10.3.3 Test du rapport de vraisemblances ............

. . . . . . . . . . . . . . . . . e e e 3.2 Estimateur convergent . . . . . . . . . . . 3.3 Estimateur sans biais . . . . . . . . . . . . 3.4 Estimateur de variance minimum . . . . . 3.5 Une m´thode g´n´rale d’estimation : e e e le maximum de vraisemblance . . . . . . . 3.6 Une bricole sur le th´or`me central limit . e e 3.7 Applications . . . . . . . . . . . . . . . . . 3.7.1 Estimation des param`tres d’une loi e 3.7.2 Estimation d’un pourcentage . . . . 4 Tests d’hypotheses 4.1 G´n´ralit´s . .