Roman Vraisemblance

transformation affine de x . Le modèle de régression linéaire est souvent estimé par la méthode des moindres carrés mais il existe aussi de nombreuses autres méthodes pour estimer ce modèle. On peut par exemple estimer le modèle par maximum de vraisemblance ou encore par inférence bayésienne. Bien qu'ils soient souvent présentés ensemble le modèle linéaire et la méthode des moindres carrés ne désignent pas la même chose. Le modèle linéaire désigne une classe de modèles qui peuvent être estimés par

exercices Cours de Statistique Multivariée Approfondie 2 Plan du cours d’aujourd’hui - 1 1. Introduction Les concepts de base pour la modélisation par équations structurelles 2. Modélisation d’équations structurelles par le maximum de vraisemblance (LISREL) Le modèle LISREL Estimation du modèle Indices de validation Un exemple Indices de modification Cours de Statistique Multivariée Approfondie 3 Plan du cours d’aujourd’hui - 2 3. Modélisation d’équations structurelles par l’approche

Chapitre 1. Introduction Chapitre 2. Modèle Statistique 1. Définition 2. Modèle d’échantillonnage 3. Vraisemblance 4. Familles Exponentielles 5. Modèle position-échelle 6. Exercices Partie 2. Estimation ponctuelle Chapitre 3. Statistique et Estimateur Chapitre 4. Construction d’estimateurs 1. Estimateurs empiriques (des moments) 2. Méthode de substitution 3. Méthode des moments 4. Maximum de vraisemblance 5. Exercices Chapitre 5. Qualité d’un estimateur 1. Estimateur convergent 2. Estimateur sans biais

que cette suite suit une loi de pareto de parametre . Si X suit une loi de pareto de parametre  alors : P(X > x) = cx avec x > x0 Deux cas possibles : { x0 connu et le support de la loi est [x0;1] dans ce cas on le fait par maximum de vraisemblance { x0 inconnu et le support de la loi est [0;1] dans ce cas il faut choisir les plus grandes observations Nous devons dans un premier estimer . Nous savons que : P(X > x) = x Donc : P(log(X) > y) = ey On va donc estimer  par la moyenne

(α + n)/(α + n + β + x) P(θ) G(α, β) G(α + x, β + 1) (α + x)/(β + 1) M(θ1 , θ2 , ..., θn ) D(α1 , α2 , ..., αn ) D(α1 + x1 , α2 + x2 , ..., αn + xn ) Une loi conjuguée peut être déterminée en considérant la forme de la vraisemblance f (x|θ) et en prenant une loi a priori de la même forme que cette dernière vue comme une fonction du paramètre. Les lois a priori conjuguées obtenues par ce procédé sont dites naturelles. Exemples : 11 M1 ISD Statistique Bayésienne

tout de même rappeler que c’est une simplification mathématique de phénomènes complexes et qu’elle repose sur plusieurs conditions (qu’on se doit de vérifier pour établir l’acceptation de nos interprétations). Mots clés : * BINAIRE * VRAISEMBLANCE * Logistique * Modélisation * Répartition * Régression I. Présentation de la Méthode. Remarque : La majorité des références et éditions touchent recueillis touchent à la médecine et à l’épidémiologie (nous avons donc préféré

e e C. Gagn´ e 2 / 32 Vraisemblance d’une estimation Vraisemblance d’une estimation param´tr´e par θ e e N l(θ) ≡ p(X |θ) = t=1 p(x t |θ) p(x|θ) est ´quivalent ` la vraisemblance qu’un ´chantillon x t soit e a e obtenu ´tant donn´ θ e e Comme les x t sont iid, on fait un produit des vraisemblances GIF-4101 / GIF-7005 (U. Laval) M´thodes param´triques e e C. Gagn´ e 3 / 32 Maximum de vraisemblance Fonction log-vraisemblance N L(θ|X ) ≡ log l(θ|X ) = t=1

Estimation ponctuelle 13.1 13.2 13.3 13.4 13.5 13.6 Définition d’un estimateur Principales qualités d’un estimateur Estimateur sans biais de variance minimale Précision intrinsèque d’un estimateur et inégalité de Cramer-Rao Méthode du maximum de vraisemblance (MV) Extension au cas de plusieurs paramètres 220 220 221 227 228 229 232 14 • Estimation par intervalle de confiance 14.1 Définition d’un intervalle de confiance 14.2 Exemples d’intervalles de confiance 14.3 Estimation et intervalle de confiance

continue . . . . . . . . . . . 2.1.2 Facteurs . . . . . . . . . . . . . . . . . . . . . . 2.1.3 Définition générale . . . . . . . . . . . . . . . . 2.1.4 Interprétation des coefficients β . . . . . . . . . 2.2 Rappels sur la méthode du maximum de vraisemblance 2.3 Estimation des paramètres . . . . . . . . . . . . . . . . 2.4 Précision des estimations . . . . . . . . . . . . . . . . . 2.5 Un exemple avec R . . . . . . . . . . . . . . . . . . . . 2.5.1 Modèles “classiques” . . . . . . . . . . . . . .

qui donne : 4. Estimation par maximum de vraisemblance : On utilise la méthode du maximum de vraisemblance pour estimer nos paramètres. La vraisemblance s’écrit : Et donc la log-vraisemblance vaut : Pour chaque modèle, on remplace F par sa valeur et l’on estime θ en résolvant la condition au premier ordre (la nullité du gradient de la log-vraisemblance). 5. Les tests : On peut obtenir des statistiques pivotales, c’est-à-dire