Théories d'information et codage
Chapitre 1 - Le monde des communications selon Shannon
Claude Elwood Shannon (30 Avril 1916 à Gaylord, Michigan - 24 février 2001)
Théorie de l'information et codage Mohamed Lassaad AMMARI – 2010
Chapitre 1 - Le monde des communications selon Shannon
1
Plan
●
Introduction Historique Quantité d'information – Entropie Le paradigme de Shannon Codage de source et codage de canal Théorèmes fondamentaux de Shannon Canal en théorie de l'information Thermodynamique, théorie de l'information et entropie
●
●
●
●
●
●
●
Théorie de l'information et codage Mohamed Lassaad AMMARI – 2010
Chapitre 1 - Le monde des communications selon Shannon
2
Introduction
●
Théorie de l'information : bases formelles et quantitatives pour le traitement, le stockage et la transmission de l'information Théorie de l'information et codage : deux disciplines juxtaposées
○
●
Codage de source et codage de canal
●
Théorie de l'information et théorie des communications Quantité d'information – Entropie
●
Théorie de l'information et codage Mohamed Lassaad AMMARI – 2010
Chapitre 1 - Le monde des communications selon Shannon
3
Introduction
●
Essai de définition de l'information
○
Le sociologue et philosophe Edgar Morin : « L'information est ce qui, pour un observateur ou récepteur placé dans une situation où il y a au moins deux occurrences possibles, dénoue une incertitude ou résout une alternative, c'est-à-dire substitue du connu à l'inconnu, du certain à de l'incertain » (Morin Edgar,
Introduction à la pensée complexe, ESF, 1995)
○
l'UNESCO considère l'information : « un élément de connaissance, susceptible d'être représenté afin d'être conservé, traité, communiqué »
Théorie de l'information et codage Mohamed Lassaad AMMARI – 2010
Chapitre 1 - Le monde des communications selon Shannon
4
Introduction
●
Essai de définition de l'information
○
Pour