距離

定義

厳密な意味での距離（metric）は、次の3つの条件（距離の公理）をすべて満たす関数のこと

距離（Metric）の公理

集合 \(M\) 上の写像

\[ d : M \times M \to \mathbb{R} \]

が 距離（metric） であるとは、任意の \(x, y, z \in M\) に対して、次の 4つの公理を満たすことをいう（非負性を省いた3つの公理とする定義もある）。

1. 同一性（Identity of indiscernibles）、非退化性

\[ d(x,x) = 0 \]

• 同じ点同士の距離は 0

• 距離が 0 であれば、その2点は同一である

2. 非負性（Non-negativity）

\[ d(x,y) \ge 0 \text{ if } x \neq y \]

• 距離は常に 0 以上である

• 負の距離は許されない

3. 対称性（Symmetry）

\[ d(x,y) = d(y,x) \]

• \(x\) から \(y\) への距離と、\(y\) から \(x\) への距離は等しい

• 向きに依存しない

4. 三角不等式（Triangle inequality）を満たす

\[ d(x,z) \le d(x,y) + d(y,z) \]

• 直接行く距離は、経由して行く距離以下

• 幾何学的な三角形の直感に対応

距離の弱化概念

距離の公理の一部を緩めた概念が存在する。

概念	非負性	同一性	対称性	三角不等式
Metric（距離）	○	○	○	○
Pseudo-metric	○	✕	○	○
Quasi-metric	○	○	✕	○
Semi-metric	○	○	○	✕

例：KLダイバージェンス

• 非負性：○

• 同一性：○

• 対称性：✕

• 三角不等式：✕

したがって、KLダイバージェンスは一般には 距離ではない。