Weak Law of Large Numbers

(Chebyshev's Theorem)

Теорема. Если [math]X_1, ..., X_n[/math] - попарно независимые случайные величины, причём их дисперсии равномерно ограничены (т.е. не превышают некоторого постоянного числа [math]C[/math]), то, как бы мало не было число [math]\epsilon[/math], вероятность того, что

[math]\left| \frac{X_1 + ... + X_n}{n} - \frac{M(X_1) + ... + M(X_n)}{n} \right| \lt \epsilon[/math]

будет как угодно близко к единице, если число случайных событий достаточно велико.

Или,

[math]\lim_{n \rightarrow \infty} P\left(\left| \frac{X_1 + ... + X_n}{n} - \frac{M(X_1) + ... + M(X_n)}{n} \right| \lt \epsilon\right) = 1[/math]


Доказательство

  • Рассмотрим случайную величину [math]\bar{X} = \frac{X_1 + ... + X_n}{n}[/math]
  • Найдем [math]M(\bar{X}) = M\left(\frac{X_1 + ... + X_n}{n}\right) = \frac{M(X_1) + ... + M(X_n)}{n}[/math]
  • Применяя к [math]\bar{X}[/math] неравенство Чебышева, получим
[math]P\left(\left| \frac{X_1 + ... + X_n}{n} - \frac{M(X_1) + ... + M(X_n)}{n} \right| \lt \epsilon\right) \geqslant 1 - \frac{D(\frac{X_1 + ... + X_n}{n})}{\epsilon^2}[/math]
  • Т.к. [math]X_1 + ... + X_n[/math] независимые, то
[math]D\left(\frac{X_1 + ... + X_n}{n}\right) = \frac{D(X_1) + ... + D(X_n)}{n^2}[/math]
  • Все дисперсии [math]D(X_i)[/math] ограничены постоянным числом [math]C[/math]: [math]D(X_i) \leqslant C[/math], поэтому
[math]\frac{D(X_1) + ... + D(X_n)}{n^2} \leqslant \frac{C + ... + C}{n^2} = \frac{nC}{n^2} = \frac{C}{n}[/math]
т.е. [math]D\left(\frac{X_1 + ... + X_n}{n}\right) \leqslant \frac{C}{n}[/math]
  • Подставляя в неравенство, имеем
[math]P\left(\left| \frac{X_1 + ... + X_n}{n} - \frac{M(X_1) + ... + M(X_n)}{n} \right| \lt \epsilon\right) \geqslant 1 - \frac{C}{n \epsilon^2}[/math]
  • переходя к пределу при [math]n \rightarrow \infty[/math] получим
[math]\lim_{n \rightarrow \infty} P\left(\left| \frac{X_1 + ... + X_n}{n} - \frac{M(X_1) + ... + M(X_n)}{n} \right| \lt \epsilon\right) \geqslant 1[/math]
т.к. вероятность не может быть больше единицы, получаем равенство
[math]\lim_{n \rightarrow \infty} P\left(\left| \frac{X_1 + ... + X_n}{n} - \frac{M(X_1) + ... + M(X_n)}{n} \right| \lt \epsilon\right) = 1[/math]

Q.E.D.


Если все случайные величины [math]X_i[/math] имеют одно и то же математическое ожидание [math]a[/math], то формула принимает вид [math]\lim_{n \rightarrow \infty} P\left(\left| \frac{X_1 + ... + X_n}{n} - a \right| \lt \epsilon\right) = 1[/math]


Значение

Отдельные случайные величины могут иметь значительнй разброс, но их среднее арифметическое рассеяно мало, и можно предвидеть, какое значение оно (ср. ар.) примет.

Или, среднее арифметическое достаточно большого количества независимых случайных величин утрачивает характер случайной величины. Объясняется это тем, что что отклонения каждой из случайных величин от своих мат. ожиданий могут быть как положительными, так и отрицательными, а в среднем арифметическом они взаимно погашаются.


See also

Sources

  • Гмурман В.Е., Теория вероятностей и математическая статистика -- 9-е издание. М.: Высш. шк., 2003.