Entropia, informazione e caos

Riassunto

Questo capitolo conclusivo potrebbe sembrare una parentesi in gran parte estranea al calcolo delle probabilità. Tuttavia, in quanto fisici, abbiamo ritenuto opportuno inserire una breve discussione generale sull’entropia che, come abbiamo già visto nel Capitolo 3, ha un ruolo importante nella teoria delle grande deviazioni. Questo concetto, originariamente introdotto in termodinamica da Clausius, e sviluppato in meccanica statistica, grazie soprattutto al contributo di Boltzmann, è stato poi generalizzato da Wiener e Shannon in teoria delle comunicazioni. In seguito i lavori di Kolmogorov e Sinai hanno permesso di utilizzare l’entropia per la caratterizzazione del comportamento dei sistemi caotici.