L.P.R.G.I. formation initiale Amiens 2020�2011 Maths : Évaluation �nale
Réseaux de neurones et régression linéaire : corrigé
Exercice 4
1. Cette fonction s'appelle � fonction logistique � ou � sigmoïde �.
Pour dériver f , on applique la formule
(
1 u )′
=
−u′ u2 avec u(x) = 1 + exp(−x) donc u′(x) = 0− exp(−x) et −u′(x) = +exp(−x) : on obtient f ′(x) = exp(−x)[ 1 + exp(−x)
]2 .
D'autre part calculons 1− f(x) en utilisant u(x) comme dénominateur commun :
1− f(x) = 1 + exp(−x)− 1
1 + exp(−x)
=
exp(−x) …afficher plus de contenu…

3. On commence par calculer les � erreurs � δ par rétro-propagation :
• niveau 3 : neurone C, comparé avec la réponse voulue δC = (R− s)× f ′(xC) = (1− sC)× sC (1− sC) ≈ +0.0640
• niveau 2 : neurone B, pour lequel on rétro-propage δC δB = wBC δC × f ′(xB) = 0.5× δC sB (1− sB) ≈ +0.0069
• niveau 1 : neurone A, pour lequel on rétro-propage δB δA = wAB δB × f ′(xA) = 0.5× δB sA (1− sA) ≈ +0.0008
Ensuite, on met à jour tous les poids :
• w0A ← w0A + pas× δA × s0 ≈ +0.50008
• w0B ← w0B + pas× δB × s0 ≈ +0.50071
• w0C ← w0C + pas× δC × s0 ≈ +0.50640
• w1A ← w1A + pas× δA × s1 ≈ +0.49983
• wAB ← wAB + pas× δB × sA ≈ +0.50027
• wBC ← wBC + pas× δC × sB ≈ +0.50426
Page 1/2L.P.R.G.I. formation initiale Amiens 2020�2011 Maths : Évaluation …afficher plus de contenu…

3. La variance de X est Vx =
1
n
(
n∑ i=1 x2i
)
−M2 x =
25361.1824
163
−M2
x ≈ 4.213.
De même, Vy =
1
n
(
n∑ i=1 y2i
)
−M2 y =
21956.9687
163
−M2
y ≈ 11.121.
La covariance est Cx,y =
1
n
(
n∑ i=1 xi yi
)
−MxMy =
23222.2908
163
−MxMy ≈ +5.6910.
4. Les coe�cients de la droite des moindres carrés sont : â =
Cx,y
Vx
≈ +1.3510 b̂ =My − âMx ≈ −5.5048
Deux points particuliers de cette droite :
• pour x = 0 on obtient Ŷ = b̂ ≈ −5.5048 (pas interprétable car note < 0) ;
• pour x = 20 on obtient Ŷ ≈ 21.5145 (pas interprétable car note > 20).
5. D'après l'énoncé, le coe�cient de détermination est
R2 =
C2
x,y
Vx Vy
≈ 0.6913 soit environ 69,13 %
Si on échange le rôle de X et de Y , la droite sera géométriquement di�érente mais R2 conservera la même valeur (vu en cours).
Page