Maximum de vraisemblance

G´n´ralit´s . . . . . . . . . . . . . . . . . e e e 3.2 Estimateur convergent . . . . . . . . . . . 3.3 Estimateur sans biais . . . . . . . . . . . . 3.4 Estimateur de variance minimum . . . . . 3.5 Une m´thode g´n´rale d’estimation : e e e le maximum de vraisemblance . . . . . . . 3.6 Une bricole sur le th´or`me central limit . e e 3.7 Applications . . . . . . . . . . . . . . . . . 3.7.1 Estimation des param`tres d’une loi e 3.7.2 Estimation d’un pourcentage . . . . 4 Tests d’hypotheses 4.1 G´n´ralit´s

13 • Estimation ponctuelle 13.1 13.2 13.3 13.4 13.5 13.6 Définition d’un estimateur Principales qualités d’un estimateur Estimateur sans biais de variance minimale Précision intrinsèque d’un estimateur et inégalité de Cramer-Rao Méthode du maximum de vraisemblance (MV) Extension au cas de plusieurs paramètres 220 220 221 227 228 229 232 14 • Estimation par intervalle de confiance 14.1 Définition d’un intervalle de confiance 14.2 Exemples d’intervalles de confiance 14.3 Estimation et intervalle

E(X) = ϑ Var(X) = ϑ2 m1’ = X ϑ=X comme on a un seul paramètre à estimer on n’utilise qu’une seule équation, si 2 paramètres on utilise 2 équations. Méthode du maximum de vraisemblance : sélectionner un estimateur qui maximise la probabilité d’observer l’échantillon qui est à notre disposition. Principe : on forme la fonction L (vraisemblance), L(x1, … , xn, ϑ) L = ∏ P(X = xi ) dans la cas discret L = ∏ f(xi) dans le cas continu et on veut maximiser L par rapport au paramètre ϑ. Habituellement on calcul

variance de ceux-ci. Le filtre de Kalman est donc optimal en ce sens qu’il est le meilleur estimateur dans la classe des estimateurs linéaires. Étape 3 : estimation des paramètres On recourt à la méthode du maximum de vraisemblance pour estimer les paramètres θ i . La fonction de vraisemblance est la suivante : l=− 1 1 υ2 log(ψ t ) − ∑ t ∑ 2 t 2 t ψt L’on passe au temps (t+1) et l’on refait cette procédure en trois étapes jusqu’à la période n. 3. Estimation de la volatilité stochastique à l’aide

λ∑ xk . k =1 Montrer que la fonction ϕ admet un maximum, atteint en un seul réel que l’on notera z et que l'on exprimera en fonction de x1 , … , xn . Que peut-on dire de z pour la fonction L ? n 7) On pose dorénavant, toujours avec n supérieur ou égal à 2 : Z n = n . ∑ Yk k =1 On admet que Z n est une variable aléatoire définie, elle aussi, sur l'espace probabilisé (Ω, A, P). La suite ( Z n ) n≥2 est appelée estimateur du maximum de vraisemblance pour λ . On admet que la variable aléatoire n ∑Y

10.2.2 Maximum de vraisemblance ........................................................................ 86 10.3 Tests de la validité du modèle .............................................................................. 87 10.3.1 Test d’adéquation du Chi-2 .......................................................................... 87 10.3.2 Test « up and down » ................................................................................... 88 10.3.3 Test du rapport de vraisemblances ......

. . . . . . . . . . . . . . . . . . . . . . 3.1.1 La r´gression lin´aire et ses probl`mes potentiels e e e 3.1.2 Notation vectorielle et matricielle . . . . . . . . 3.2 R´gression . . . . . . . . . . . . . . . . . . . . . . . . . e 3.2.1 Maximum de vraisemblance . . . . . . . . . . . 3.2.2 Moindres carr´s (Least squares) . . . . . . . . . e 3.2.3 Erreurs de sp´cification . . . . . . . . . . . . . . e 3.2.4 Choix du mod`le . . . . . . . . . . . . . . . . . e . . . . . . . . . . . . . . . . .

estimateurs linéaires non biaisés à variance minimale c’est à dire efficace. (BLUE [ Best Linear Unbiased Estimators] ). Les estimateurs des moindres carrés sont les mêmes que ceux que l’on obtiendrait si l’on se servait de la méthode du maximum de vraisemblance en supposant que les erreurs théoriques sont normalement distribuées. Par calcul différentiel, on cherche les 2 valeurs b0 et b1 qui minimisent la somme des carrés des résidus, cette somme quadratique est notée f( b0 , b1), puisqu’elle est

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4.1 4.2 Éléments de théorie de l’information . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Méthode du maximum de vraisemblance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Énoncés des exercices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Énoncés des problèmes . .

Estimation ponctuelle 13.1 13.2 13.3 13.4 13.5 13.6 Définition d’un estimateur Principales qualités d’un estimateur Estimateur sans biais de variance minimale Précision intrinsèque d’un estimateur et inégalité de Cramer-Rao Méthode du maximum de vraisemblance (MV) Extension au cas de plusieurs paramètres 14 • Estimation par intervalle de confiance 14.1 Définition d’un intervalle de confiance 14.2 Exemples d’intervalles de confiance 14.3 Estimation et intervalle de confiance dans le cas d’une