熵常與複雜度一起出現,但高熵不必然代表複雜:純隨機噪音可以有高 Shannon entropy,卻未必有豐富結構;簡單規則生成的圖樣也可能有很高的結構複雜性。複雜度可能包含多尺度、關聯、可壓縮性、階層與動態等面向,沒有一個熵值能完整取代這些概念。
思與行
- 比較有規律序列、純隨機序列與有結構的複雜序列,觀察熵與可描述性的差異。
- 在跨領域文章中,把 complexity、randomness、uncertainty 與 entropy 分別定義。
熵常與複雜度一起出現,但高熵不必然代表複雜:純隨機噪音可以有高 Shannon entropy,卻未必有豐富結構;簡單規則生成的圖樣也可能有很高的結構複雜性。複雜度可能包含多尺度、關聯、可壓縮性、階層與動態等面向,沒有一個熵值能完整取代這些概念。