Кладовочка

О разном, чтобы было под рукой онлайн

Формула Байеса простыми словами: суть и примеры

Формула Байеса — это математический инструмент для ответа на вопрос: «Я получил новые данные. Как теперь изменилась вероятность того, что моя гипотеза верна?»

Байесовский подход лежит в основе спам-фильтров, медицинской диагностики, машинного обучения, судебной экспертизы и даже того, как наш мозг обновляет картину мира.

О чём эта статья

Формула (или теорема) Байеса — это способ честно пересчитать вероятность гипотезы, когда появились новые данные. В статье сначала объясним суть простыми словами и на бытовой аналогии, затем разберём формулу по шагам, покажем классические примеры (медицинский тест, спам-фильтр, судебная ошибка) и типичные ловушки, из-за которых даже специалисты ошибаются в оценках. Математика здесь минимальна: достаточно уметь перемножать и складывать дроби.

Ключевые понятия

Термин Значение
Априорная вероятность Насколько гипотеза правдоподобна до получения новых данных
Правдоподобие Насколько вероятны наблюдаемые данные, если гипотеза верна
Полная вероятность Суммарная вероятность данных по всем возможным гипотезам
Апостериорная вероятность Обновлённая вероятность гипотезы после учёта данных — то, что мы ищем

Формула Байеса простыми словами

Если убрать математику, формула Байеса отвечает на один житейский вопрос: насколько сильно новая информация должна изменить моё мнение? Мы делаем это интуитивно каждый день: увидели тучу — решили, что будет дождь; услышали кашель — насторожились. Формула просто делает эту интуицию точной и защищает от поспешных выводов.

Сначала мы держим в голове априорную вероятность — насколько гипотеза правдоподобна до новых данных. Потом смотрим на правдоподобие — насколько вероятны эти данные, если гипотеза верна. И пересчитываем итог — апостериорную вероятность. Ключевая мысль: редкие события остаются редкими, даже если признак выглядит убедительным.

Аналогия: мокрый асфальт

Вы просыпаетесь и видите за окном мокрый асфальт. Пошёл ли дождь? Интуиция подсказывает «конечно, да». Но асфальт могла намочить поливальная машина, а утренний дождь в вашем городе идёт лишь в 30% дней. Формула Байеса учитывает обе возможности и выдаёт честную оценку вместо эмоциональной.

Числовой пример

Пусть P(дождь) = 0.30 — априорная вероятность по прогнозу. Если дождь идёт, асфальт мокрый с вероятностью 0.95. Если дождя нет, его всё равно намочила поливалка с вероятностью 0.10.

Полная вероятность мокрого асфальта: 0.95 · 0.30 + 0.10 · 0.70 = 0.285 + 0.07 = 0.355.

Тогда вероятность дождя при мокром асфальте: 0.285 / 0.355 ≈ 0.80. То есть около 80%, а не 95% и не 100%: формула «приглушила» уверенность, потому что нашлось правдоподобное альтернативное объяснение.

Интуиция: медицинский тест

Вам сделали тест на редкую болезнь. Тест положительный. Болезнь встречается у 1% населения. Тест точен на 95% (правильно определяет больных) и даёт 5% ложноположительных (говорит «болен», хотя человек здоров).

Вопрос: с какой вероятностью вы действительно больны?

Интуитивно кажется: «Тест на 95% точен — значит, я болен с вероятностью 95%». Это ошибка. Правильный ответ — около 16%.

Почему? Потому что болезнь редкая, и большинство положительных результатов теста — ложные.

Формула Байеса

$$P(A|B) = \frac{P(B|A) \cdot P(A)}{P(B)}$$

Где:

Обозначение Название Смысл в примере
$P(A)$ Априорная вероятность Насколько болезнь редка (1%)
$P(B\|A)$ Правдоподобие Точность теста для больных (95%)
$P(B)$ Полная вероятность $B$ Вероятность положительного теста вообще
$P(A\|B)$ Апостериорная вероятность Вероятность болезни при положительном тесте — то, что ищем

Разбор примера с тестом

$A$ — человек болен, $B$ — тест положительный.

  • $P(A) = 0.01$ (болезнь у 1%)
  • $P(B|A) = 0.95$ (тест находит 95% больных)
  • $P(B|\neg A) = 0.05$ (тест ошибается у 5% здоровых)

Полная вероятность положительного теста:

$$P(B) = P(B|A) \cdot P(A) + P(B|\neg A) \cdot P(\neg A)$$

$$P(B) = 0.95 \cdot 0.01 + 0.05 \cdot 0.99 = 0.0095 + 0.0495 = 0.059$$

И апостериорная:

$$P(A|B) = \frac{0.95 \cdot 0.01}{0.059} = \frac{0.0095}{0.059} \approx 0.161$$

Всего 16.1% — а не 95%, как подсказывает интуиция.

Почему это работает: дерево на 10 000 человек

Группа Число Тест + Тест −
Больны (1%) 100 95 5
Здоровы (99%) 9 900 495 9 405
Всего 10 000 590 9 410

Из 590 положительных тестов только 95 — действительно больные. Доля: $95/590 \approx 0.161$.

Остальные 495 — ложноположительные, и их много просто потому, что здоровых в 99 раз больше, чем больных.

Примеры применения

1. Спам-фильтр

Классический пример: наивный байесовский классификатор.

Слово «виагра» встречается в 80% спам-писем и в 0.1% обычных. Спам составляет 50% всей почты. Какова вероятность, что письмо со словом «виагра» — спам?

$P(A) = 0.5$ (спам), $P(B|A) = 0.8$, $P(B|\neg A) = 0.001$

$$P(B) = 0.8 \cdot 0.5 + 0.001 \cdot 0.5 = 0.4005$$

$$P(A|B) = \frac{0.8 \cdot 0.5}{0.4005} \approx 0.9988$$

99.88% — письмо почти наверняка спам. Именно так работают байесовские спам-фильтры с тысячами слов-признаков.

2. Судебная ошибка (прокурорское заблуждение)

В суде эксперт говорит: «ДНК подозреваемого совпадает с ДНК с места преступления. Вероятность случайного совпадения — 1 на миллион».

Прокурор заключает: «Значит, вероятность невиновности — 1 на миллион».

Это ошибка. Формула Байеса требует априорной вероятности. Если в городе живёт 10 миллионов человек, то ожидаемо около 10 из них будут иметь такое же совпадение ДНК случайно. Вероятность того, что подозреваемый — преступник, а не один из этих 10, существенно ниже, чем «1 на миллион».

Ещё один известный пример той же логической ошибки — британский случай Салли Кларк (1999): мать осудили за убийство двух детей на основании неверной статистической аргументации. Важно: это был спор о статистике синдрома внезапной детской смерти (СВДС), а не о совпадении ДНК, хотя ошибка — то же прокурорское заблуждение. Позже приговор отменили.

3. Обновление убеждений

Вы считаете, что ваш коллега выполняет обещания с вероятностью 80% ($P(A) = 0.8$). Он три раза подряд не выполнил обещанное. Как обновить оценку?

$P(B|A) = 0.2^3 = 0.008$ (если он надёжен, то 3 провала подряд крайне маловероятны)

$P(B|\neg A) = 0.8^3 = 0.512$ (если он ненадёжен, 3 провала — обычное дело)

$P(B) = 0.008 \cdot 0.8 + 0.512 \cdot 0.2 = 0.0064 + 0.1024 = 0.1088$

$$P(A|B) = \frac{0.008 \cdot 0.8}{0.1088} = \frac{0.0064}{0.1088} \approx 0.059$$

Ваша уверенность в надёжности коллеги упала с 80% до 5.9%. Три провала подряд — сильный сигнал.

4. Поиск пропавшего самолёта

После исчезновения MH370 в 2014 году поисковые команды использовали байесовский подход. Априорное распределение: где вероятнее всего находится самолёт (траектория, топливо, спутниковые данные). По мере поступления данных (обломки, сигналы, течения) — апостериорное распределение обновлялось, сужая зону поиска.

5. A/B тесты в байесовском стиле

В отличие от классического частотного подхода (p-value), байесовский даёт прямой ответ: «Вероятность, что вариант B лучше A, равна 87%». Это интуитивно понятнее бизнесу, чем «p = 0.04, отвергаем нулевую гипотезу». Классический частотный подход опирается на закон больших чисел и объём выборки, а байесовский — на постепенное обновление апостериорного распределения.

Байес в повседневной жизни

Формула Байеса полезна не только в лаборатории. Вот четыре бытовые ситуации, где она незаметно работает.

Прогноз погоды. Синоптик говорит «70% дождя» — это уже апостериорная оценка после учёта спутниковых данных. Ваш личный опыт («в этом городе прогноз врёт») — дополнительная априорная информация, которую стоит добавить.

Звонок из «банка». Вам звонят с незнакомого номера и представляются сотрудником банка. Априорно таких мошеннических звонков немного, но признак «просят код из СМС» резко повышает правдоподобие мошенничества — и апостериорная вероятность становится близкой к единице.

Поиск ключей. Вы уверены на 80%, что ключи в куртке. Обшарили все карманы — пусто. Это свидетельство против гипотезы, и после него вы с большей вероятностью пойдёте проверять сумку. Так работает обновление убеждений без всякой математики.

Выбор ресторана. У нового места 4.8 звезды, но всего 12 отзывов; у старого — 4.3, зато 900 отзывов. Байесовский взгляд не бросится к высокому рейтингу: малое число наблюдений даёт широкую неопределённость, и скромный, но стабильный рейтинг часто надёжнее. Об этом же говорит закон больших чисел.

Полная формула Байеса для нескольких гипотез

Если гипотезы $A_1, A_2, \ldots, A_n$ образуют полную группу событий (их объединение покрывает всё пространство исходов), попарно несовместны и $P(B) > 0$, формула принимает вид:

$$P(A_i|B) = \frac{P(B|A_i) \cdot P(A_i)}{\sum_{j=1}^{n} P(B|A_j) \cdot P(A_j)}$$

Знаменатель — полная вероятность события $B$.

Байесовский подход vs частотный

Аспект Частотный (frequentist) Байесовский
Вероятность Предел частоты при бесконечных испытаниях Степень уверенности
Параметры Фиксированные, неизвестные Случайные величины
Априорная информация Игнорируется Явно включается в модель
Результат p-value, доверительный интервал Апостериорное распределение
Интерпретация «Если нулевая гипотеза верна, вероятность увидеть такие данные...» «Вероятность, что гипотеза верна, равна...»
Итеративное обучение Сложно Естественно: сегодняшний posterior = завтрашний prior

Ловушки и предостережения

1. Выбор априорного распределения

Разные априорные — разные выводы. Это главный пункт критики байесовского подхода. Ответ: при достаточном объёме данных априорное «вымывается» и перестаёт влиять на результат.

2. Забытый знаменатель

$P(B)$ часто сложно посчитать, особенно в непрерывном случае. На помощь приходят MCMC-методы (Марковские цепи Монте-Карло).

3. Предположение о независимости

Наивный байесовский классификатор предполагает, что признаки независимы. В реальности это редко так, но классификатор всё равно работает на удивление хорошо — даже при нарушении предположения.

4. Base rate neglect (игнорирование априорной вероятности)

Люди склонны игнорировать $P(A)$ и фокусироваться только на $P(B|A)$. Это называется «ошибкой базового уровня» (base rate fallacy). Формула Байеса — лекарство от этой когнитивной ошибки.

Итого

Формула Байеса — не просто формула из учебника. Это способ мышления: всегда учитывай, насколько вероятна была гипотеза до получения данных, и насколько вероятны данные при условии, что гипотеза верна.

Идея Байеса, опубликованная посмертно в 1763 году: мы начинаем с предположений и по мере поступления данных корректируем их. Это и есть обучение — и для машины, и для человека.

Ресурсы

Что дальше