Modèles de réseaux de neurones pour l’analyse des séries temporelles ou la régression : Estimation, Identification, Méthode d’élagage SSM
Modèles de réseaux de neurones pour l’analyse des séries temporelles ou la régression :
Estimation, Identification, Méthode d’élagage SSM
J. Rynkiewicz, M. Cottrell, M. Mangeas, J.F. Yao
SAMOS, Université de Paris 1
90, rue de Tolbiac
75013 Paris cottrell@univ-paris1.fr Ce papier porte sur la modélisation de séries temporelles ou de régression à l’aide de réseaux de neurones. En nous appuyant sur des résultats récents sur l’estimation des moindres carrés pour les séries temporelles non linéaires, nous proposons une méthodologie complète et explicite pour l’estimation des paramètres (processus d’apprentissage) et pour le choix du modèle (sélection d’architecture). En particulier, nous donnons une solution au problème de l’élagage dans un perceptron multi-couches au moyen d’une méthode pas à pas utilisant un critère de type BIC dont on démontre la consistance.
RÉSUMÉ.
This paper deals with neural network modeling for time series analysis or regression. Based on recent results about the least-square estimation for non-linear time series, we propose a complete and feasible methodology for both parameter estimation (learning process) and model selection (architecture selection). In particular, we solve the pruning problem for multilayer perceptron models with a stepwise search method by using a BIC criterion which is proved to be consistent.
ABSTRACT.
MOTS-CLÉS :
Identification statistique, statistiques asymptotiques
KEYWORDS:
Statistical Stepwise, Almost sure identification, asymptotic statistics
SMM : RIA. Volume X - n X/2001, pages 1 à X
2
SMM : RIA. Volume X - n X/2001
1. Introduction
Les perceptrons multi-couches (MLP) ont d’abord été introduits pour résoudre des problèmes complexes de classification. Mais en raison de leur propriété d’approximateur universel (voir Hornik, 1989, [HOR 89] ou Funahashi, 1989, [FUN 89]), ils ont été rapidement utilisés comme modèles de régression non