（熱力学）
エネルギーがどれだけ拡散しているか（秩序 → 無秩序）を表す量
例： 氷 → 水 → 水蒸気
分子の動きが自由になる→エントロピーが増える
日常の例： 部屋は放っておくと散らかる
割れたコップは自然に元に戻らない
つまり自然は「整然」より「乱雑」に向かうという傾向がある
（情報理論）
どれだけ情報が予測できないかを表す
例： メッセージエントロピー
AAAAAA 低い（予測できる）
8Kf$2zQ 高い（予測できない）
つまりランダムなほどエントロピーが高い。これはデータ圧縮、通信、暗号などで重要
（統計力学）
可能な状態の数が多いほどエントロピーが大きい
