ML Wiki
Machine Learning Wiki - A collection of ML concepts, algorithms, and resources.

Chain and Sum Rules in Probability

== Теорема сложения вероятностей ==

'’Суммой’’ $A + B$ двух событий $A$ и $B$ является событие, состоящее в появлении события $A$ или события $B$

’'’Теорема’’’. Probability появления одного из двух несовместных событий равна сумме этих событий:

$P(A + B) = P(A) + P(B)$

Доказательство: $n$ - общее число исходов, $m_a$ - благоприятных $A$, $m_b$ - благоприятных $b$

$P(A + B) = \frac{m_a + m_b}{n} = \frac{m_a}{n} + \frac{m_b}{n} = P(A) + P(B)$

Следствия

  • Сумма вероятностей всех событий $A_i \in \Omega$, составляющих полную группу событий, равна единице.
    $P(A_1) + … + P(A_n) = 1$
  • Сумма вероятности появления события $A$ или противоположного ему события $\bar{A}$ равна единице, т.к. $A$ и $\bar{A}$ образуют полную группу событий
    $P(A) + P(\bar{A}) = 1$

Теорема сложения вероятностей совместных событий

Два события называют ‘‘совместными’’, если появление одного не исключает появление другого в одном и том же испытании.

’'’Теорема.’’’ Probability появления хотя бы одного из двух совместных событий равна сумме вероятностей этих событий без вероятности их совместного появления

$P(A + B) = P(A) + P(B) - P(AB)$

Доказательство

  • $A + B$ наступит, если произойдёт $A\bar{B}$, $\bar{A}B$ или $AB$. Так как эти события несовместы, то по теореме сложения имеем
    $P(A + B) = P(A\bar{B}) + P(\bar{A}B) + P(AB)$ (‘’‘*’’’)
  • $A$ наступит, если произойдёт или $AB$ или $A\bar{B}$. По теореме сложения,
    $P(A) = P(A\bar{B}) + P(AB)$ или
    $P(A\bar{B}) = P(A) - P(AB)$ (‘’‘**’’’)
  • Аналогично, $B$ наступит, если произойдёт или $AB$ или $\bar{A}B$. Т.е.
    $P(B) = P(\bar{A}B) + P(AB)$ или
    $P(\bar{A}B) = P(B) - P(AB)$ (‘’‘***’’’)
  • Подставив (‘’‘’’’) и (‘’‘’’’) в (‘’‘’’’), получим
    $P(A + B) = P(A) + P(B) - P(AB)$

== Теорема произведения вероятностей == ‘‘Произведением’’ событий $A$ и $B$ называется событие $A \cdot B$, состоящее в совместном появлении этих событий.

Пример:

  • $A$ - деталь годная
  • $B$ - деталь окрашена
  • $A \cdot B$ - деталь годна и окрашена

’'’Теорема’’’. Рассмотрим два события $A$ и $B$. Нам известны $P(A)$ и $P(B| A)$. Как найти вероятность появления и $A$ и $B$? | $P(A \cdot B) = P(A) \cdot P(B | A)$ - по определению условной вероятности. | Для независимых событий теорема умножения принимает вид

$P(A \cdot B) = P(A) \cdot P(B)$

See also

Sources

  • Гмурман В.Е., Теория вероятностей и математическая статистика – 9-е издание. М.: Высш. шк., 2003.