隨機變數 X 的平均資訊量/不確定性,H(X)=−Σ p(x)log₂p(x),以 bit 計量。只依機率分布計算,不直接衡量語意、真偽或價值。 相關:資訊熵、互資訊、熵率、最大熵原理。 Tsallis 熵 有效物種數 麥克斯韋妖 蘭道爾原理 城市資訊熵 廣義熵 正規化 Renyi 熵 資訊熱力學 生態多樣性 機率分布 非廣延統計力學 微分熵 空間資訊 條件熵 資訊理論