Формула Байеса простыми словами: суть и примеры
Формула Байеса — это математический инструмент для ответа на вопрос: «Я получил новые данные. Как теперь изменилась вероятность того, что моя гипотеза верна?»
Байесовский подход лежит в основе спам-фильтров, медицинской диагностики, машинного обучения, судебной экспертизы и даже того, как наш мозг обновляет картину мира.
О чём эта статья
Формула (или теорема) Байеса — это способ честно пересчитать вероятность гипотезы, когда появились новые данные. В статье сначала объясним суть простыми словами и на бытовой аналогии, затем разберём формулу по шагам, покажем классические примеры (медицинский тест, спам-фильтр, судебная ошибка) и типичные ловушки, из-за которых даже специалисты ошибаются в оценках. Математика здесь минимальна: достаточно уметь перемножать и складывать дроби.
Ключевые понятия
| Термин | Значение |
|---|---|
| Априорная вероятность | Насколько гипотеза правдоподобна до получения новых данных |
| Правдоподобие | Насколько вероятны наблюдаемые данные, если гипотеза верна |
| Полная вероятность | Суммарная вероятность данных по всем возможным гипотезам |
| Апостериорная вероятность | Обновлённая вероятность гипотезы после учёта данных — то, что мы ищем |
Формула Байеса простыми словами
Если убрать математику, формула Байеса отвечает на один житейский вопрос: насколько сильно новая информация должна изменить моё мнение? Мы делаем это интуитивно каждый день: увидели тучу — решили, что будет дождь; услышали кашель — насторожились. Формула просто делает эту интуицию точной и защищает от поспешных выводов.
Сначала мы держим в голове априорную вероятность — насколько гипотеза правдоподобна до новых данных. Потом смотрим на правдоподобие — насколько вероятны эти данные, если гипотеза верна. И пересчитываем итог — апостериорную вероятность. Ключевая мысль: редкие события остаются редкими, даже если признак выглядит убедительным.
Аналогия: мокрый асфальт
Вы просыпаетесь и видите за окном мокрый асфальт. Пошёл ли дождь? Интуиция подсказывает «конечно, да». Но асфальт могла намочить поливальная машина, а утренний дождь в вашем городе идёт лишь в 30% дней. Формула Байеса учитывает обе возможности и выдаёт честную оценку вместо эмоциональной.
Числовой пример
Пусть P(дождь) = 0.30 — априорная вероятность по прогнозу. Если дождь идёт, асфальт мокрый с вероятностью 0.95. Если дождя нет, его всё равно намочила поливалка с вероятностью 0.10.
Полная вероятность мокрого асфальта: 0.95 · 0.30 + 0.10 · 0.70 = 0.285 + 0.07 = 0.355.
Тогда вероятность дождя при мокром асфальте: 0.285 / 0.355 ≈ 0.80. То есть около 80%, а не 95% и не 100%: формула «приглушила» уверенность, потому что нашлось правдоподобное альтернативное объяснение.
Интуиция: медицинский тест
Вам сделали тест на редкую болезнь. Тест положительный. Болезнь встречается у 1% населения. Тест точен на 95% (правильно определяет больных) и даёт 5% ложноположительных (говорит «болен», хотя человек здоров).
Вопрос: с какой вероятностью вы действительно больны?
Интуитивно кажется: «Тест на 95% точен — значит, я болен с вероятностью 95%». Это ошибка. Правильный ответ — около 16%.
Почему? Потому что болезнь редкая, и большинство положительных результатов теста — ложные.
Формула Байеса
$$P(A|B) = \frac{P(B|A) \cdot P(A)}{P(B)}$$
Где:
| Обозначение | Название | Смысл в примере |
|---|---|---|
| $P(A)$ | Априорная вероятность | Насколько болезнь редка (1%) |
| $P(B\|A)$ | Правдоподобие | Точность теста для больных (95%) |
| $P(B)$ | Полная вероятность $B$ | Вероятность положительного теста вообще |
| $P(A\|B)$ | Апостериорная вероятность | Вероятность болезни при положительном тесте — то, что ищем |
Разбор примера с тестом
$A$ — человек болен, $B$ — тест положительный.
- $P(A) = 0.01$ (болезнь у 1%)
- $P(B|A) = 0.95$ (тест находит 95% больных)
- $P(B|\neg A) = 0.05$ (тест ошибается у 5% здоровых)
Полная вероятность положительного теста:
$$P(B) = P(B|A) \cdot P(A) + P(B|\neg A) \cdot P(\neg A)$$
$$P(B) = 0.95 \cdot 0.01 + 0.05 \cdot 0.99 = 0.0095 + 0.0495 = 0.059$$
И апостериорная:
$$P(A|B) = \frac{0.95 \cdot 0.01}{0.059} = \frac{0.0095}{0.059} \approx 0.161$$
Всего 16.1% — а не 95%, как подсказывает интуиция.
Почему это работает: дерево на 10 000 человек
| Группа | Число | Тест + | Тест − |
|---|---|---|---|
| Больны (1%) | 100 | 95 | 5 |
| Здоровы (99%) | 9 900 | 495 | 9 405 |
| Всего | 10 000 | 590 | 9 410 |
Из 590 положительных тестов только 95 — действительно больные. Доля: $95/590 \approx 0.161$.
Остальные 495 — ложноположительные, и их много просто потому, что здоровых в 99 раз больше, чем больных.
Примеры применения
1. Спам-фильтр
Классический пример: наивный байесовский классификатор.
Слово «виагра» встречается в 80% спам-писем и в 0.1% обычных. Спам составляет 50% всей почты. Какова вероятность, что письмо со словом «виагра» — спам?
$P(A) = 0.5$ (спам), $P(B|A) = 0.8$, $P(B|\neg A) = 0.001$
$$P(B) = 0.8 \cdot 0.5 + 0.001 \cdot 0.5 = 0.4005$$
$$P(A|B) = \frac{0.8 \cdot 0.5}{0.4005} \approx 0.9988$$
99.88% — письмо почти наверняка спам. Именно так работают байесовские спам-фильтры с тысячами слов-признаков.
2. Судебная ошибка (прокурорское заблуждение)
В суде эксперт говорит: «ДНК подозреваемого совпадает с ДНК с места преступления. Вероятность случайного совпадения — 1 на миллион».
Прокурор заключает: «Значит, вероятность невиновности — 1 на миллион».
Это ошибка. Формула Байеса требует априорной вероятности. Если в городе живёт 10 миллионов человек, то ожидаемо около 10 из них будут иметь такое же совпадение ДНК случайно. Вероятность того, что подозреваемый — преступник, а не один из этих 10, существенно ниже, чем «1 на миллион».
Ещё один известный пример той же логической ошибки — британский случай Салли Кларк (1999): мать осудили за убийство двух детей на основании неверной статистической аргументации. Важно: это был спор о статистике синдрома внезапной детской смерти (СВДС), а не о совпадении ДНК, хотя ошибка — то же прокурорское заблуждение. Позже приговор отменили.
3. Обновление убеждений
Вы считаете, что ваш коллега выполняет обещания с вероятностью 80% ($P(A) = 0.8$). Он три раза подряд не выполнил обещанное. Как обновить оценку?
$P(B|A) = 0.2^3 = 0.008$ (если он надёжен, то 3 провала подряд крайне маловероятны)
$P(B|\neg A) = 0.8^3 = 0.512$ (если он ненадёжен, 3 провала — обычное дело)
$P(B) = 0.008 \cdot 0.8 + 0.512 \cdot 0.2 = 0.0064 + 0.1024 = 0.1088$
$$P(A|B) = \frac{0.008 \cdot 0.8}{0.1088} = \frac{0.0064}{0.1088} \approx 0.059$$
Ваша уверенность в надёжности коллеги упала с 80% до 5.9%. Три провала подряд — сильный сигнал.
4. Поиск пропавшего самолёта
После исчезновения MH370 в 2014 году поисковые команды использовали байесовский подход. Априорное распределение: где вероятнее всего находится самолёт (траектория, топливо, спутниковые данные). По мере поступления данных (обломки, сигналы, течения) — апостериорное распределение обновлялось, сужая зону поиска.
5. A/B тесты в байесовском стиле
В отличие от классического частотного подхода (p-value), байесовский даёт прямой ответ: «Вероятность, что вариант B лучше A, равна 87%». Это интуитивно понятнее бизнесу, чем «p = 0.04, отвергаем нулевую гипотезу». Классический частотный подход опирается на закон больших чисел и объём выборки, а байесовский — на постепенное обновление апостериорного распределения.
Байес в повседневной жизни
Формула Байеса полезна не только в лаборатории. Вот четыре бытовые ситуации, где она незаметно работает.
Прогноз погоды. Синоптик говорит «70% дождя» — это уже апостериорная оценка после учёта спутниковых данных. Ваш личный опыт («в этом городе прогноз врёт») — дополнительная априорная информация, которую стоит добавить.
Звонок из «банка». Вам звонят с незнакомого номера и представляются сотрудником банка. Априорно таких мошеннических звонков немного, но признак «просят код из СМС» резко повышает правдоподобие мошенничества — и апостериорная вероятность становится близкой к единице.
Поиск ключей. Вы уверены на 80%, что ключи в куртке. Обшарили все карманы — пусто. Это свидетельство против гипотезы, и после него вы с большей вероятностью пойдёте проверять сумку. Так работает обновление убеждений без всякой математики.
Выбор ресторана. У нового места 4.8 звезды, но всего 12 отзывов; у старого — 4.3, зато 900 отзывов. Байесовский взгляд не бросится к высокому рейтингу: малое число наблюдений даёт широкую неопределённость, и скромный, но стабильный рейтинг часто надёжнее. Об этом же говорит закон больших чисел.
Полная формула Байеса для нескольких гипотез
Если гипотезы $A_1, A_2, \ldots, A_n$ образуют полную группу событий (их объединение покрывает всё пространство исходов), попарно несовместны и $P(B) > 0$, формула принимает вид:
$$P(A_i|B) = \frac{P(B|A_i) \cdot P(A_i)}{\sum_{j=1}^{n} P(B|A_j) \cdot P(A_j)}$$
Знаменатель — полная вероятность события $B$.
Байесовский подход vs частотный
| Аспект | Частотный (frequentist) | Байесовский |
|---|---|---|
| Вероятность | Предел частоты при бесконечных испытаниях | Степень уверенности |
| Параметры | Фиксированные, неизвестные | Случайные величины |
| Априорная информация | Игнорируется | Явно включается в модель |
| Результат | p-value, доверительный интервал | Апостериорное распределение |
| Интерпретация | «Если нулевая гипотеза верна, вероятность увидеть такие данные...» | «Вероятность, что гипотеза верна, равна...» |
| Итеративное обучение | Сложно | Естественно: сегодняшний posterior = завтрашний prior |
Ловушки и предостережения
1. Выбор априорного распределения
Разные априорные — разные выводы. Это главный пункт критики байесовского подхода. Ответ: при достаточном объёме данных априорное «вымывается» и перестаёт влиять на результат.
2. Забытый знаменатель
$P(B)$ часто сложно посчитать, особенно в непрерывном случае. На помощь приходят MCMC-методы (Марковские цепи Монте-Карло).
3. Предположение о независимости
Наивный байесовский классификатор предполагает, что признаки независимы. В реальности это редко так, но классификатор всё равно работает на удивление хорошо — даже при нарушении предположения.
4. Base rate neglect (игнорирование априорной вероятности)
Люди склонны игнорировать $P(A)$ и фокусироваться только на $P(B|A)$. Это называется «ошибкой базового уровня» (base rate fallacy). Формула Байеса — лекарство от этой когнитивной ошибки.
Итого
Формула Байеса — не просто формула из учебника. Это способ мышления: всегда учитывай, насколько вероятна была гипотеза до получения данных, и насколько вероятны данные при условии, что гипотеза верна.
Идея Байеса, опубликованная посмертно в 1763 году: мы начинаем с предположений и по мере поступления данных корректируем их. Это и есть обучение — и для машины, и для человека.
Ресурсы
- Теория вероятностей и матстатистика: полная шпаргалка — фундамент: вероятность, случайная величина, распределения.
- Математическое ожидание — как считать среднее и работать с неопределённостью.
- Формула Бернулли — вероятность ровно k успехов в серии независимых испытаний.
- Комбинаторика — правила подсчёта числа исходов.
- Число Эйлера e — непрерывные пределы и связь с экспонентой в вероятностных моделях.
Что дальше
- Закон больших чисел простыми словами — почему среднее сходится к истине и как это связано с байесовским обновлением.
- Теория вероятностей и матстатистика — полный фундамент: от аксиом до проверки гипотез.
- Математическое ожидание — базовый инструмент оценки случайных величин.
- Формула Бернулли — классическая схема независимых испытаний.
- Комбинаторика — подсчёт исходов до применения вероятностей.