LES RÉSEAUX NEURONAUX:
7) MÉMOIRES ASSOCIATIVES Ce chapitre s'inspire de [Abdi 1994]
7-1 Les mémoires Dans les ordinateurs traditionnels les informations sont stockées dans des mémoires adressables: Une information est connue par son adresse et si celle-ci est perdue son contenu aussi et il n'y a aucun moyen de le retrouver. Le concept de mémoire associative est très différent: Une information peut être retrouvée si on fournit un pattern lui ressemblant (soit une partie de l'information, soit l'information bruitée). Plus généralement il s'agit d'associer un stimulus en entrée à une réponse en sortie (comme le fait le perceptron). On distinguera les mémoires "hétéro-associatives et les mémoires auto-asociatives. Les premières, tout comme le perceptron (voir chapitre 4), ne comportent que deux couches: Une couche d'entrée et une couche de sortie reliées par des connexions de poids modifiables lors d'un apprentissage. Les deuxièmes ne comportent qu'une seule couche, tous les neurones étant reliés entre eux. À la différence du perceptron qui est constitué de cellules binaires (réponse 0 ou 1), les mémoires associatives ont des sorties continues.
7-2 Mémoires hétéro-associatives linéaires
7-2-1 Définitions Les neurones d'une mémoires associatives linéaires ont une réponse proportionnelle à leur activation:

Avec: aj = activation de la cellule de sortie numéro j. oj = réponse de cette cellule. xi = sortie de la cellule numéro i de la rétine. wi,j = poids de la connexion i -> j. c = constante (généralement comprise entre 0 et 1). On utilisera des notations matricielles: W = [wi,j] = matrice d'ordre I * J des poids des connexions i -> j reliant les cellules de la rétine aux cellules de sortie. X = [xi,k] = matrice d'ordre I * K des K stimuli, xk correspondant à la colonne numéro k de X. Les vecteurs sont supposés