Flyism

Home

❯

Entropy

❯

term

❯

香農熵

香農熵

2026年11月07日閱讀時間約 1 分鐘

隨機變數 X 的平均資訊量/不確定性,H(X)=−Σ p(x)log₂p(x),以 bit 計量。只依機率分布計算,不直接衡量語意、真偽或價值。

相關:資訊熵、互資訊、熵率、最大熵原理。

Tsallis 熵

有效物種數

麥克斯韋妖

蘭道爾原理

城市資訊熵

廣義熵

正規化

Renyi 熵

資訊熱力學

生態多樣性

機率分布

非廣延統計力學

微分熵

空間資訊

條件熵

資訊理論


關係圖譜

反向連結

  • Entropy
  • 傑恩斯以最大熵原理連接資訊論與統計力學
  • 最大熵原理從物理延伸到生態模型
  • 熱力學與資訊熵之間存在可公理化的連結
  • 熵從熱力學走向資訊處理的跨領域回顧
  • 約斯特指出熵值不等於直觀的物種多樣性
  • 香農將熵引入通訊與資訊理論
  • 建立一張熵的量測方法對照卡避免錯誤比較
  • 把知識庫的搜尋不確定性當作資訊熵問題研究
  • 替AI摘要加入不確定性與證據來源而非只給可信語氣
  • 設計一場以熵為主題的跨領域共學活動
  • 熵的量測與模型總圖
  • 資訊理論與計算總圖
  • 最大熵原理是在已知約束下避免額外偏見
  • 熵值法的權重反映資料差異而非指標價值
  • 生態多樣性指數需要轉換與生態詮釋
  • 香農熵衡量機率不確定性而不衡量語意價值
  • Renyi 熵
  • Tsallis 熵
  • 互資訊
  • 城市資訊熵
  • 廣義熵
  • 微分熵
  • 最大熵原理
  • 有效物種數
  • 條件熵
  • 機率分布
  • 正規化
  • 熵率
  • 生態多樣性
  • 空間資訊
  • 蘭道爾原理
  • 資訊熱力學
  • 資訊熵
  • 資訊理論
  • 非廣延統計力學
  • 麥克斯韋妖

Created with Quartz v5.0.0 © 2026

  • GitHub
  • LINE Community