Maximum de vraisemblance

Chapitre 1. Introduction Chapitre 2. Modèle Statistique 1. Définition 2. Modèle d’échantillonnage 3. Vraisemblance 4. Familles Exponentielles 5. Modèle position-échelle 6. Exercices Partie 2. Estimation ponctuelle Chapitre 3. Statistique et Estimateur Chapitre 4. Construction d’estimateurs 1. Estimateurs empiriques (des moments) 2. Méthode de substitution 3. Méthode des moments 4. Maximum de vraisemblance 5. Exercices Chapitre 5. Qualité d’un estimateur 1. Estimateur convergent 2. Estimateur sans biais

e e C. Gagn´ e 2 / 32 Vraisemblance d’une estimation Vraisemblance d’une estimation param´tr´e par θ e e N l(θ) ≡ p(X |θ) = t=1 p(x t |θ) p(x|θ) est ´quivalent ` la vraisemblance qu’un ´chantillon x t soit e a e obtenu ´tant donn´ θ e e Comme les x t sont iid, on fait un produit des vraisemblances GIF-4101 / GIF-7005 (U. Laval) M´thodes param´triques e e C. Gagn´ e 3 / 32 Maximum de vraisemblance Fonction log-vraisemblance N L(θ|X ) ≡ log l(θ|X ) = t=1

Ce qui donne : 4. Estimation par maximum de vraisemblance : On utilise la méthode du maximum de vraisemblance pour estimer nos paramètres. La vraisemblance s’écrit : Et donc la log-vraisemblance vaut : Pour chaque modèle, on remplace F par sa valeur et l’on estime θ en résolvant la condition au premier ordre (la nullité du gradient de la log-vraisemblance). 5. Les tests : On peut obtenir des statistiques pivotales, c’est-à-dire

* * * * * * * * x - L'estimateur du maximum de vraisemblance 2 2 (a, σµ , σv ) = (2π)−NT /2 |Ω|−1/2 exp − (y − X a) Ω−1 (y − X a) Ω = λw W + λb B 2 λw = σv |Ω| = λN (T −1) λN w b − 2 2 λ b = (T σ µ + σ v ) 1 2 Ω−1 = λ−1 W + λ−1 B w b ln (a , λ w , λ b ) 1 1 N (T − 1) ln λw − N ln λb − 2 2 1 1 (y − X a) W (y − X a) − (y − X a) B (y − X a) 2λ w 2λb Le système non linéaire vérié par l'estimateur du maximum de vraisemblance a MV = 1 λw MV X WX + X Wy

d’estimation des param`etres 97 5.2. Comparaison d’estimateurs 100 5.3. M ́ethode des moments 105 5.4. M ́ethode du maximum de vraisemblance 107 5.5. Comportement asymptotique de la fonction de log-vraisemblance 112 5.6. Consistance de l’estimateur du maximum de vraisemblance 114 5.7. Mod`eles statistiques r ́eguliers 117 5.8. Normalit ́e asymptotique de l’estimateur du maximum de vraisemblance 123 5.9. Comparaison asymptotique d’estimateurs 125 5.10. Exercices 126 Chapitre 6. Tests d’hypoth`eses et

d’int´grale et du calcul matriciel. Et l’accent est mis sur les noe e tions centrales en probabilit´s et statistique que sont la loi, l’ind´pendance, l’esp´rance, e e e la variance, la fonction caract´ristique, les convergences, l’estimateur du maximum de e vraisemblance, les intervalles de confiance et les tests d’hypoth`ses plutˆt que sur les fone o dements th´oriques de ces disciplines. e Des exercices sont ins´r´s au cœur des chapitres pour permettre aux ´tudiants de mettre ee e en application les diff´rents

. . . . . . . . . . e 3.2.1 D´finition d’un estimateur . . . . . . . . . . e 3.2.2 La m´thode des moments . . . . . . . . . . e 3.2.2.1. L’estimateur des moments (EMM) . 3.2.2.2. Exemples . . . . . . . . . . . . . . . 3.2.3 La m´thode du maximum de vraisemblance e 13 13 14 14 14 16 16 17 18 23 23 27 27 27 28 28 29 30 30 31 31 35 35 35 36 36 36 37 38 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

explicative continue . . . . . . . . . . . 2.1.2 Facteurs . . . . . . . . . . . . . . . . . . . . . . 2.1.3 Définition générale . . . . . . . . . . . . . . . . 2.1.4 Interprétation des coefficients β . . . . . . . . . 2.2 Rappels sur la méthode du maximum de vraisemblance 2.3 Estimation des paramètres . . . . . . . . . . . . . . . . 2.4 Précision des estimations . . . . . . . . . . . . . . . . . 2.5 Un exemple avec R . . . . . . . . . . . . . . . . . . . . 2.5.1 Modèles “classiques” . . . . . . . . . . .

tout de même rappeler que c’est une simplification mathématique de phénomènes complexes et qu’elle repose sur plusieurs conditions (qu’on se doit de vérifier pour établir l’acceptation de nos interprétations). Mots clés : * BINAIRE * VRAISEMBLANCE * Logistique * Modélisation * Répartition * Régression I. Présentation de la Méthode. Remarque : La majorité des références et éditions touchent recueillis touchent à la médecine et à l’épidémiologie (nous avons donc préféré

(α + n)/(α + n + β + x) P(θ) G(α, β) G(α + x, β + 1) (α + x)/(β + 1) M(θ1 , θ2 , ..., θn ) D(α1 , α2 , ..., αn ) D(α1 + x1 , α2 + x2 , ..., αn + xn ) Une loi conjuguée peut être déterminée en considérant la forme de la vraisemblance f (x|θ) et en prenant une loi a priori de la même forme que cette dernière vue comme une fonction du paramètre. Les lois a priori conjuguées obtenues par ce procédé sont dites naturelles. Exemples : 11 M1 ISD Statistique Bayésienne