漸近オーダーの表記法

漸近オーダーの表記法#

ランダウの記号#

ランダウの記号（Landau’s symbol）は関数や数列の漸近挙動を大まかに把握するときに使われる記法。

例えば $a_{n} = n^{- 2}, b_{n} = n^{- 1}$ のとき、

\frac{a_{n}}{b_{n}} = \frac{1 / n^{2}}{1 / n} = \frac{n}{n^{2}} = \frac{1}{n} \to 0, n \to \infty

という関係があるが、 $n$ を増やしていったときに $a_{n}$ のほうがより早く $0$ へ収束する。

このように漸近的（ $n \to \infty$ ）には $a_{n}$ が $n^{- 1}$ 「より小さい」ということを

a_{n} = o (n^{- 1}), n \to \infty

と書く。

（定義）スモール・オーダー

数列 $a_{n}, b_{n} (n \in N)$ に対して、 $a_{n} / b_{n} \to 0 (n \to \infty)$ となるとき

a_{n} = o (b_{n}), n \to \infty

と書き、 $a_{n}$ は $b_{n}$ のスモール・オーダー（small order）であるという。

（定義）キャピタル・オーダー

数列 $a_{n}, b_{n} (n \in N)$ に対して、 $a_{n} / b_{n} (n \to \infty)$ が有界となるとき、すなわち、ある定数 $M > 0$ が存在して

- M < \underset{n \to \infty}{lim inf} \frac{a_{n}}{b_{n}} \leq \underset{n \to \infty}{lim sup} \frac{a_{n}}{b_{n}} < M

となるとき、

a_{n} = O (b_{n}), n \to \infty

と書き、 $a_{n}$ は $b_{n}$ の キャピタル・オーダー （capital order）あるいは ラージ・オーダー であるという。

特に、 $a_{n} / b_{n} \to 1 (n \to \infty)$ となるとき

a_{n} \sim b_{n}, (n \to \infty)

と書いて、 $a_{n}$ と $b_{n}$ は漸近同等（asymptotically equivalent）という。

例：無限小#

$0$ に近づく独立変数 $h$ （独立無限小量 という）に依存する量 $R (h)$ が $h \to 0$ とともに0に近づくとき、 $R (h)$ を $h$ の 無限小量 あるいは 無限小 という。

ある $R (h)$ を標準的な無限小量 $h^{n}$ と比較してランダウの記号を使って表す場合、以下のようになる。

$n$ 次より高次の無限小

$\frac{R (h)}{h^{n}} \to 0$ のとき、 $R (h)$ は $h$ の $n$ 次より高次の無限小であるといい、

R (h) = o (h^{n})

と記す。とくに $n = 0$ のときは $R (h) = o (1)$ と記す（これは $R (h)$ が無限小量だというのと同じことを言ってるだけ）。

$n$ 次の無限小

$\frac{R (h)}{h^{n}}$ が有界に留まるとき、 $R (h)$ は $h$ の（少なくとも） $n$ 次の無限小であるといい、

R (h) = O (h^{n})

と記す。

とくに $n = 0$ のときは

R (h) = O (1)

と記す。

これは $R (h)$ が $h \to 0$ のとき少なくとも値が有界にとどまり、無限に大きくなったりはしないという意味。

確率的ランダウの記号#

ランダウの記号の確率バージョン

（定義）スモール・オーダー

確率変数列 ${X_{n}}, {Y_{n}}$ に対して、 $X_{n} / Y_{n} \overset{p}{\to} 0 (n \to \infty)$ となるとき

X_{n} = o_{p} (Y_{n}), n \to \infty

と書き、 $X_{n}$ は $Y_{n}$ のスモール・オーダー（small order）であるという。

例：

$X_{n} \overset{p}{\to} X$ なる確率変数列 ${X_{n}}$ に対して

X_{n} = X + o_{p} (1), n \to \infty

と書くことができる。 $X_{n}$ を決める主要な項は $X$ であり、残りは誤差のようなもの、ということ。

（定義）確率有界

確率変数列 ${X_{n}}$ が

lim_{M \to \infty} sup_{n \in N} P (| X_{n} | > M) = 0

を満たすとき、 ${X_{n}}$ は確率有界（bounded in probability）、あるいは（一様）緊密（タイト、uniformly tight）であるといい、

X_{n} = O_{p} (1), n \to \infty

と書く。

$sup$ は supremum（上限）
任意の $n \in N$ について上限の $P (| X_{n} | > M)$ が $M \to \infty$ の極限で0になる？

確率変数 $X$ に対する単独のtightnessは

lim_{M \to \infty} P (| X | > M) = 0

（定義）キャピタル・オーダー

確率変数列 ${X_{n}}, {Y_{n}}$ が $X_{n} / Y_{n} = O_{p} (1)$ となるとき、

X_{n} = O_{p} (Y_{n}), n \to \infty

のように書き、 $X_{n}$ は $Y_{n}$ のキャピタル・オーダーであるという。

特に、 $X_{n} / Y_{n} \overset{p}{\to} 1$ となるとき

X_{n} \sim Y_{n}

と書いて、 $X_{n}$ と $Y_{n}$ は（確率的に）漸近同等（asymptotically equivalent）という。

（ $X_{n} - Y_{n} = o_{p} (1)$ となることを漸近同等という定義もある）

例： $\sqrt{n}$ -consistency#

ある推定量 $θ_{0}$ が真の推定量 $θ$ について

θ_{0} - θ = O_{p} (1 / \sqrt{n}), n \to \infty

である（ $1 / \sqrt{n}$ と同程度のレートでゼロに収束する）とき、この推定量は $\sqrt{n}$ -consistencyと呼ばれる

参考文献#

清水泰隆（2021）『統計学への確率論，その先へ』