熱力學熵與資訊熵有深刻關聯但不能無條件等同

Boltzmann–Gibbs entropy 與 Shannon entropy 具有相似的數學形式，且在統計物理、資訊熱力學與公理化研究中可建立嚴謹映射。但數學形式相近不表示歷史語境、測量對象與單位完全相同。熱力學熵帶有能量與溫度尺度，資訊熵常以 bit 或 nat 計量；兩者建立關係需要明確的狀態描述與物理模型。

思與行

• 看到「資訊就是物理」或「熵就是無知」等口號時，追問它們採用的形式系統與適用條件。
• 將跨領域連結寫成「在某假設下可映射」，不要簡寫成「完全相同」。

參考

• 香農將熵引入通訊與資訊理論、熱力學與資訊熵之間存在可公理化的連結、資訊熱力學把測量回饋與耗散放入同一框架。
• 資訊熵、熱力學熵、von Neumann 熵。