Théorie de l'information et codage

Chapitre 1 - Le monde des communications selon Shannon

Claude Elwood Shannon (30 Avril 1916 à Gaylord, Michigan - 24 février 2001)
Théorie de l'information et codage Mohamed Lassaad AMMARI – 2010

Chapitre 1 - Le monde des communications selon Shannon

1

Plan
●

Introduction Historique Quantité d'information – Entropie Le paradigme de Shannon Codage de source et codage de canal Théorèmes fondamentaux de Shannon Canal en théorie de l'information Thermodynamique, théorie de l'information et entropie

●

●

●

●

●

●

●

Théorie de l'information et codage Mohamed Lassaad AMMARI – 2010

Chapitre 1 - Le monde des communications selon Shannon

2

Introduction
●

Théorie de l'information : bases formelles et quantitatives pour le traitement, le stockage et la transmission de l'information Théorie de l'information et codage : deux disciplines juxtaposées
○

●

Codage de source et codage de canal

●

Théorie de l'information et théorie des communications Quantité d'information – Entropie

●

Théorie de l'information et codage Mohamed Lassaad AMMARI – 2010

Chapitre 1 - Le monde des communications selon Shannon

3

Introduction
●

Essai de définition de l'information
○

Le sociologue et philosophe Edgar Morin : « L'information est ce qui, pour un observateur ou récepteur placé dans une situation où il y a au moins deux occurrences possibles, dénoue une incertitude ou résout une alternative, c'est-à-dire substitue du connu à l'inconnu, du certain à de l'incertain » (Morin Edgar,
Introduction à la pensée complexe, ESF, 1995)

○

l'UNESCO considère l'information : « un élément de connaissance, susceptible d'être représenté afin d'être conservé, traité, communiqué »

Théorie de l'information et codage Mohamed Lassaad AMMARI – 2010

Chapitre 1 - Le monde des communications selon Shannon

4

Introduction
●

Essai de définition de l'information
○

Pour