Fondamenti di teoria dell'informazione. Compressione dati e primo teorema di Shannon.

Questo elaborato enuncia i limiti fisici della compressione dati per sorgenti discrete senza memoria, formalizzati dal Primo Teorema di Shannon, partendo dall'entropia e dai fondamenti della teoria dell'informazione. A tal fine, il testo esamina le proprietà asintotiche delle sorgenti, quali la Proprietà di Equipartizione Asintotica (AEP) e l'insieme tipico. Inoltre, l'analisi affronta la teoria dei codici, i relativi criteri di ottimalità e la codifica di Huffman. La tesi dimostra che l'entropia costituisce il limite inferiore invalicabile per la compressione senza perdita.