Ошибки по правилам.

Есть соблазн считать, что ошибки случайны. Шум, помеха, сбой передачи: где-то недоспал, где-то отвлёкся, где-то не хватило данных — и решение вышло кривым. Из этой картины следует утешительный вывод: в среднем человек промахивается «в никуда». То влево, то вправо; при достаточном числе попыток промахи гасят друг друга, как ошибки округления.

Это неправда. И показали это двое.

В конце шестидесятых психологи Дэниел Канеман и Амос Тверски начали ставить людям маленькие задачки про вероятности и выбор. Не чтобы поймать на незнании формул — а чтобы посмотреть, куда именно промахивается интуиция. Выяснилось неприятное: промахивается она не в никуда. Промахивается она в одну и ту же сторону, у всех, предсказуемо. Ошибка оказалась не шумом, а сигналом — у неё есть направление, форма и почти всегда причина.

Это как оптическая иллюзия. Стрелки Мюллера—Лайера: ты можешь приложить линейку, убедиться, что отрезки равны, — и всё равно один будет казаться длиннее1. Знание не чинит зрение. Канеман и Тверски нашли такие же иллюзии, только не для глаза, а для рассуждения. И каталогизировали их.

Тверски, говорят, формулировал свою работу так: коллеги изучают искусственный интеллект, а он — естественную глупость2. Шутка, но честная. Дальше — короткая экскурсия по этому каталогу. Не чтобы ты почувствовал себя глупым (мы тут все в одной лодке), а ради красоты: у глупости, оказывается, есть грамматика.

Удобная рамка, которой Канеман подытожил полвека работы, — две системы мышления3.

Система 1 — быстрая. Автоматическая, без усилия, всегда включена. Это она читает злость на лице, заканчивает «два плюс…», уворачивается от мяча. Она не считает — она узнаёт. И в мире, для которого её затачивала эволюция, она почти всегда права.

Система 2 — медленная. Она считает столбиком, держит в голове условие, проверяет логику. Она дорогая: жрёт внимание, устаёт, ленится. Поэтому по умолчанию она спит и доверяет Системе 1.

Большинство ошибок устроено одинаково: на вопрос, который требует Системы 2, бойко отвечает Система 1. Классика — бита и мяч.

Бита и мяч вместе стоят 1 доллар 10 центов. Бита дороже мяча на доллар. Сколько стоит мяч?

В голову мгновенно прыгает «10 центов». Это Система 1: она услышала «1.10» и «доллар», вычла и выдала остаток. Только это неверно — если мяч стоит 10, то бита стоит 1.10, и вместе уже 1.20. Правильный ответ — 5 центов4. Система 2 могла бы проверить за пять секунд, но её никто не позвал: ответ-то чувствовался правильным.

Запомни этот механизм — он повторится почти везде. Интуиция отвечает не на тот вопрос, который задали, а на похожий, который ей легче.

Самая плодовитая из иллюзий. Мы оцениваем вероятность по похожести: насколько объект напоминает типичный образец категории. И ради похожести готовы выбросить арифметику.

Знаменитая Линда5. Линде 31, она не замужем, прямолинейна, в университете изучала философию, в студенчестве занималась проблемами дискриминации. Что вероятнее:

1. Линда — кассир в банке;
2. Линда — кассир в банке и активистка феминистского движения.

Большинство выбирает (2). И это математически невозможно. Множество «кассирш-феминисток» — часть множества «кассирш». Подмножество не может быть больше множества: добавив условие, ты можешь только сузить вероятность, не расширить. P(A и B) ≤ P(A) всегда. Но «кассирша-феминистка» похожа на портрет Линды, а просто «кассирша» — нет. Похожесть победила вероятность. Это ошибка конъюнкции.

Тот же корень — пренебрежение базовой ставкой. Если описать человека как застенчивого, аккуратного, любящего порядок, многие решат, что он скорее библиотекарь, чем фермер. Хотя фермеров в разы больше — и при любом раскладе случайный «аккуратный человек» с куда большей вероятностью окажется фермером просто потому, что фермеров больше. Портрет заслоняет базовую частоту.

И отсюда же — вера в закон малых чисел6. Мы ждём, что маленькая выборка будет выглядеть как генеральная совокупность. Что после пяти красных рулетка «должна» выдать чёрное; что три неудачных найма подряд — это «тенденция». Маленькие числа шумят сильно, но интуиция читает их шум как сигнал. (Об этом — отдельно, в эссе про ошибку игрока.)

Мы оцениваем, как часто что-то бывает, по тому, как легко всплывает пример. Лёгкость припоминания подменяет частоту.

Поэтому люди боятся самолётов сильнее машин, акул сильнее собак, терактов сильнее лестниц в собственном доме. Не потому что это опаснее — а потому что ярче, свежее, чаще в новостях. Авиакатастрофа — заголовок; десятки тысяч на дорогах — фон. Память хранит первое и теряет второе, а интуиция честно считает по тому, что нашла.

Доступность — это ещё и причина, по которой мы системно недооцениваем редкое и крупное. Большая катастрофа, которой давно не было, легко припоминается как «невозможной» — ровно перед тем, как случиться. (Привет чёрным лебедям: память — плохой датчик хвостов.)

Дай человеку случайное число перед оценкой — и оценка поедет к этому числу. Даже если число очевидно не при чём.

Канеман и Тверски крутили перед испытуемыми колесо фортуны — подкрученное, оно останавливалось на 10 или на 65. Потом спрашивали: какой процент стран в ООН — африканские? Те, кому выпало 10, в среднем называли ~25%; те, кому выпало 65, — ~45%7. Колесо. Рулетка из казино, не имеющая отношения к географии, сдвигала ответ почти вдвое.

Это якорение. Первое число становится точкой отсчёта, и дальше ты корректируешь от него — но корректируешь слишком мало. Поэтому стартовая цена на переговорах решает так много; поэтому «было 10 000, теперь 5 999» работает, даже когда красная цена и есть настоящая. Якорь не обязан быть разумным. Он обязан быть первым.

Здесь — главная теория этих двоих. Теория перспектив8, за которую Канеман получил Нобеля по экономике в 2002-м (Тверски не дожил — он умер в 1996-м, а посмертно премию не дают9).

Классическая экономика считала, что человек оценивает итог: сколько денег у тебя стало всего. Канеман и Тверски сказали: нет. Человек оценивает изменение — выигрыш или проигрыш относительно точки отсчёта. И эта на первый взгляд мелочь ломает всё.

Три следствия, которые стоит держать в голове:

Точка отсчёта. «Стало 1000» не значит ничего, пока не известно, было 500 или 2000. Одна и та же сумма — радость или горе в зависимости от того, откуда пришли. Мы живём не в абсолютных координатах, а в дельтах.

Неприятие потерь. Потерять сто — больнее, чем найти сто — приятно. Примерно вдвое10. Поэтому мы держим падающие акции («продать = признать потерю»), цепляемся за невыгодные решения, переплачиваем за страховку от мелочей. Потеря весит больше равного выигрыша — и весы всегда при нас.

Разное отношение к риску в плюсе и минусе. В зоне выигрышей мы осторожны: верный выигрыш в 900 приятнее, чем 90% шанс на 1000, хотя по матожиданию второе выгоднее. А в зоне потерь — наоборот, мы становимся азартными: верная потеря 900 невыносима, и мы хватаемся за 90%-й шанс потерять 1000, лишь бы оставался шанс не потерять ничего. Тонущий идёт ва-банк. Отсюда — отыгрыши в казино и усреднение убыточной позиции.

Здесь видно, почему «считай матожидание» — совет необходимый, но не достаточный. Люди системно отклоняются от EV, и отклоняются по закону: кривая ценности вогнутая в выигрышах, выпуклая в потерях, и круче с левой стороны. Это не хаос предпочтений — это форма. (О том, почему важно мерить EV по распределению решений, а не по отдельному исходу, — в отдельном эссе.)

Если одно и то же решение описать двумя способами, человек выберет по-разному. Это фрейминг, и он — прямое следствие неприятия потерь.

Хрестоматийная задача про эпидемию11. Болезнь грозит 600 жизнями. Есть две программы.

В первой формулировке: программа A спасает 200 человек; программа B — с вероятностью ⅓ спасает всех, с ⅔ не спасает никого. Большинство выбирает A: «спасти 200 наверняка» звучит надёжно.

Во второй формулировке: при программе C погибают 400 человек; при программе D — с вероятностью ⅓ не погибает никто, с ⅔ погибают все. Большинство выбирает D.

Подвох в том, что A и C — это одно и то же. И B с D — тоже. 200 спасённых из 600 = 400 погибших. Поменялся не расклад — поменялось слово. «Спасти» поставило нас в зону выигрышей (играем осторожно, берём верное), «погибнут» — в зону потерь (играем азартно, берём лотерею). Решение перевернулось от глагола.

Это не лабораторный курьёз. Так устроены ценники, медицинские согласия, политические лозунги и любой текст, который хочет, чтобы ты выбрал заранее известный ему вариант. Рамку часто выбирают за тебя — и обычно раньше, чем ты успеваешь заметить, что её вообще выбрали.

Несколько искажений, которые стоит хотя бы узнавать в лицо:

Ошибка планирования. Мы оцениваем срок проекта по идеальному сценарию, игнорируя статистику похожих проектов. Поэтому ремонт всегда дольше, смета всегда больше, а «к пятнице сделаю» — почти ритуальная фраза.

Ретроспективное искажение. После события кажется, что оно было предсказуемо («я так и знал»). Память тихо переписывает прошлые ожидания под уже известный итог — и мы переоцениваем и собственную прозорливость, и предсказуемость мира.

Регрессия к среднему — и её непонимание. За исключительным результатом чаще следует менее исключительный, просто потому что в исключительном много везения, а везение не повторяется по заказу. Канеман рассказывал про инструкторов ВВС: они заметили, что после похвалы за отличный вылет курсант летит хуже, а после разноса за плохой — лучше, и сделали вывод, что похвала вредит, а ругань помогает12. На самом деле они просто наблюдали регрессию к среднему и приписали ей причину. Мы вечно ищем причину там, где работает статистика.

«Что видишь, то и есть». Система 1 строит связную историю из тех данных, что под рукой, и не учитывает того, чего не видит. Уверенность рождается из связности картинки, а не из её полноты. Поэтому меньше данных порой даёт больше уверенности — связную историю из них сложить легче.

Невозвратные затраты. Уже вложенное не должно влиять на то, что делать дальше — потраченное потрачено в любом из будущих. Но оно влияет: «мы убили на это квартал, нельзя бросать» звучит как ответственность, а работает как капкан. Британия и Франция годами дотировали убыточный «Конкорд» ровно потому, что уже вложились — отсюда и второе имя, ошибка «Конкорда». Лекарство одно: спрашивай не «сколько уже потрачено», а «начни мы сегодня с нуля — взялись бы за это снова?».

Подтверждающий поиск. Получив гипотезу, мы ищем то, что её подтверждает, и не замечаем того, что её валит. В задаче Уэйсона с тройкой 2–4–6 люди проверяют своё правило только подходящими примерами — и почти никто не пробует тройку, которая могла бы его сломать. В аналитике та же воронка: подбираешь метрику, которая подтвердит, что фича взлетела. Противоядие — научное: сформулируй гипотезу до данных и специально ищи, чем её опровергнуть, а не чем подтвердить.

Здесь — честная и слегка обидная часть. Знание про искажения почти не лечит от искажений. Канеман, потративший на них жизнь, признавался, что сам попадается ровно так же13. Стрелки Мюллера—Лайера остаются разной длины, даже когда линейка лежит рядом.

Работает не сила воли в моменте, а устройство среды вокруг решения:

— Внешний взгляд. Прежде чем оценивать свой проект, посмотри на статистику чужих похожих. Базовая ставка — лучшее лекарство от истории, которую ты сам себе рассказываешь.

— Алгоритмы и чек-листы. Там, где можно заменить интуитивное суждение простой формулой или списком, — обычно стоит. Скучный чек-лист бьёт вдохновенного эксперта чаще, чем эксперту хотелось бы.

— Предобязательства. Решение принимается холодной головой заранее, до того как накатит Система 1. Правило «продаю при −20%» спасает там, где «решу по ситуации» топит.

— Смена формулировки. Прежде чем выбрать, переформулируй задачу в обратную рамку. Если ответ перевернулся — решал не ты, а фрейм.

Логика тут та же, что и в любой работе с агентностью: ты не борешься с собой в момент выбора, ты проектируешь систему, в которой плохой выбор просто труднее сделать. Сила — не в том, чтобы каждый раз пересиливать Систему 1, а в том, чтобы пореже ставить её на позицию, где она ошибается.

Главное, что оставили Канеман и Тверски, — не список искажений. Списки можно загуглить. Главное — сама мысль, что иррациональность закономерна.

Мы привыкли думать, что разум — это правильность, а ошибка — её отсутствие, провал, пустота. Они показали обратное: у ошибки есть собственная структура, почти такая же строгая, как у правильного ответа. Те же люди ошибаются в ту же сторону на ту же величину. Из этого можно строить теорию. Из этого построили теорию — и она предсказывает поведение лучше, чем модель идеально рационального агента.

В этом и красота, ради которой стоило затевать всю экскурсию. У глупости есть грамматика. А значит, глупость можно изучать — спокойно, без морализма, как изучают любое природное явление с законами. Самое надёжное, что ты можешь сделать со своими ошибками, — перестать считать их случайностью и начать считать их предсказуемыми. Предсказуемое уже наполовину приручено.