Unidad de los conceptos centrales de la entropía

La forma más utilizada de la ecuación de Boltzmann para la entropía está en su tumba, aunque nunca la escribió de esa manera (Uffink 2014). Implica W, la probabilidad termodinámica de un estado agregado de un sistema de moléculas de gas, siendo k la constante de Boltzmann y S la entropía. Toma la forma

\[S=k \ln W\]

Dada N estados microscópicos del sistema, la probabilidad de una molécula de gas está en el estado i-ésimo es N i / N . Entonces W viene dado por (Chakrabarti y Chakraborty2006)

\[W=N ! / \Pi N_{i} !\]

Esto significa que la entropía de Boltzmann se puede reescribir como

\[S=k \ln \left(N ! / \Pi N_{i} !\right) .\]

La entropía básica de Shannon viene dada por H de la distribución de probabilidad de los estados de incertidumbre informativa para el mensaje i. de H ( p 1 … p n ). Esto entonces equivale a (Shannon y Weaver1949; Renyi1961)

\[H\left(p_{1} \ldots p_{n}\right)=-k \Sigma p_{i} \ln p_{i}\]

Reconociendo que p i = N i / N , la unidad básica de estos dos conceptos aparece a medida que N aumenta, lo que lleva a la fórmula de Boltzmann en ( 4.6 ) a aproximarse a (Tsallis1988; Thurner y Hanel2012)

\[S=-k N \Sigma p_{i} \ln p_{i}\]

lo que significa que en el límite cuando N se acerca al infinito, la entropía de Boltzmann es proporcional a la entropía de Shannon.