Питер Уэйсон в 1960-м придумал простой тест1. Участнику говорят: есть правило, которому подчиняется тройка чисел. Пример подходящей тройки — 2-4-6. Назови свои тройки, я скажу, подходят они или нет, и угадай правило.

Почти все начинают одинаково: загадывают «возрастание на 2» и проверяют его подтверждающими тройками — 8-10-12, 20-22-24. Каждый раз слышат «да, подходит» и крепнут в уверенности. А настоящее правило было шире — «любые три числа по возрастанию». Поймать его можно было, только попробовав тройку, которая правило нарушила бы твою гипотезу: 1-2-3, или 5-4-3. Но почти никто не пробует опровергнуть. Все собирают подтверждения — и уверенно называют неверное правило.

Вот суть склонности к подтверждению: мы ищем данные, которые скажут «ты прав», и не ищем те, что могли бы сказать «ты ошибся». Сбор информации асимметричен, и эта асимметрия незаметна изнутри — кажется, что ты просто проверяешь гипотезу, а на деле только гладишь её по шёрстке.

Правота, которую ты ни разу не пробовал опровергнуть, — это не знание, а привычка.

На языке Байеса это сломанное обновление. Честное обновление убеждения требует учитывать оба исхода: и насколько данные вероятны, если ты прав, и насколько — если неправ. Подтверждающее искажение собирает только первое и игнорирует второе. Ты перестаёшь обновляться — ты копишь односторонние улики2.

Карл Поппер сделал из этого принцип науки: теорию нельзя доказать подтверждениями, её можно только пытаться опровергнуть, и она ценна ровно настолько, насколько переживает попытки фальсификации. Наука движется не накоплением «да», а поиском «нет». Склонность к подтверждению — это встроенный антинаучный инстинкт, и научный метод придуман в значительной мере как протез против него.

Примеры — вся повседневность. Читаем СМИ, согласные с нами, и «убеждаемся в своей правоте». Загуглив симптом, находим подтверждение страшного диагноза, потому что искали именно его. Купив акцию, замечаем хорошие новости о компании и пропускаем плохие. На собеседовании первое впечатление решает, а дальше мы ищем факты под него. Везде гипотеза тянет к себе подтверждения, как магнит.

Связь с другими искажениями плотная. Доступность подсовывает яркие подтверждающие примеры; ошибка выжившего прячет опровергающие случаи; вместе они делают одностороннюю картину почти герметичной.

Что делать. Прямо спрашивай: что доказало бы, что я неправ? — и иди искать именно это. Сформулируй, какой результат опроверг бы твою гипотезу, до того как смотришь данные. Поручи кому-то роль адвоката дьявола. В аналитике — пытайся убить свою гипотезу, а не подтвердить: тест ценен, когда может провалиться. Сила вывода не в том, сколько «да» ты набрал, а в том, что он пережил честную попытку «нет».