null
объект · справка · §10
турниры повторяющейся игры
каталог · пять волн IPD · от Аксельрода до Axelrod-Python
типкаталог · 5 волн · повторяющаяся дилемма заключённого
диапазон1980 — наши дни · Аксельрод · Саутгемптон · ZD · open-source
связаностратегии IPD · визуал Аксельрода · эволюция кооперации

объект · справка · каталог · ~1800 слов · 12 мин

Повторяющаяся дилемма заключённого (IPD): каждый раунд — «сотрудничать (C) или предать (D)». Выплаты: взаимное C = 3·3, взаимное D = 1·1, предал сотрудничающего = 5, оказался предан = 0. Играют много раундов, счёт копится. Ниже — все известные турниры, их участники, команды, стратегии, типы, метрики и фан-факты. Определения стратегий — в каталоге стратегий; хроника — в «эволюции кооперации».

// обзор: пять волн турниров
годтурнирорганизатор(ы)участниковформатпобедитель
1980Первый турнир АксельродаРоберт Аксельрод (Мичиган)14 + RANDOMround-robin, 200 раундов, 5 повторовTit-for-Tat (Рапопорт)
1980–81Второй турнир АксельродаАксельрод; эволюц. анализ с У. Д. Гамильтоном62, из 6 странвероятностный конец игрыTit-for-Tat (Рапопорт)
200420-летие, конкурсКендалл, Яо, Чонг (Ноттингем/Бирмингем)223 (лига 1)несколько лиг, в т.ч. «шумная»Саутгемптон (сговор 60 ботов)
200520-летие, повторте же192 (лига 1)лиги: стандарт, шум, мультиигрокстратегии-команды
2012ZD-турнирСтюарт, Плоткин (Пенсильвания)~19Аксельрод + zero-determinantZDGTFT-2 (по очкам)
2015+Axelrod-PythonНайт, Кэмпбелл, Харпер и др. (open-source)200+много категорий, воспроизводимообученные (ML) стратегии
// волна 1 — первый турнир Аксельрода (1980)

Формат. Round-robin: каждая стратегия против каждой (и против своей копии, и против RANDOM), 200 раундов, 5 повторов, счёт — средняя выплата. Приглашены эксперты пяти дисциплин: психология, политология, экономика, социология, математика. Программы на FORTRAN.
Метрики. Победитель Tit-for-Tat — средний счёт ≈ 504.5. Разрыв со вторым местом — около 4 очков. Визуал турнира →

#стратегияавтордисциплинаописаниетип
1Tit-for-TatАнатоль Рапопортматематика/психологияC на первом ходу, дальше копирует прошлый ход соперникаотзеркаливающая
2Tideman & ChieruzziТ. Н. Тайдмен, П. ЧеруцциэкономикаTfT, но периодически «пробует» предать и наказывает по нарастающейпробующая
3NydeggerРуди Найдеггерпсихологиярешает по исходам трёх последних ходов (сложная память)моделирующая
4GrofmanБернард Грофманполитологияв основном взаимна, но с вероятностными послаблениямиотзеркаливающая
5ShubikМартин Шубикэкономика/ТИTfT с нарастающим наказанием: каждая измена карается дольшезлопамятная
6Stein & RapoportУ. Стайн, А. Рапопортматематика/психологияTfT + статистический тест: не случаен ли соперникотзеркаливающая
7Grudger (Friedman)Джеймс Фридманэкономика«grim»: сотрудничает, пока не предали; одна измена — и мстит до концазлопамятная
8DavisМортон Дэвисматематика10 ходов молча сотрудничает, при измене переходит в grimзлопамятная
9GraaskampДжим ГраскампнедвижимостьTfT + пробные предательства, чтобы «прощупать» соперникапробующая
10DowningЛесли Даунингпсихологиястроит модель соперника и максимизирует ожидаемый выигрышмоделирующая
11FeldСкотт ФелдсоциологияTfT, но к концу игры всё чаще предаётпробующая
12JossИоганн Йоссматематика«хитрый TfT»: изредка предаёт вместо копиипробующая (sneaky)
13TullockГордон Таллокэкономикакооперирует чуть реже среднегослучайно-смещённая
14(без имени)анонимполитологиязаявка аспиранта-политолога
+RANDOMАксельродэталон: 50/50 C/Dслучайная

Вывод турнира. Победили «добрые» (nice) стратегии — те, что никогда не предают первыми. Все восемь лучших были добрыми; все худшие — недобрыми.

Фан-факты. Tit-for-Tat была самой короткой программой турнира — четыре строки. Простое обыграло сложное. Даунинг, пытавшийся моделировать соперников, проиграл — слишком пессимистично оценивал их и провоцировал конфликт. Граскамп был слепым профессором недвижимости из Висконсина.

// волна 2 — второй турнир Аксельрода (1980–81)

Формат. После публикации результатов первого турнира Аксельрод позвал всех желающих. 62 стратегии из 6 стран, от школьников-любителей до профессоров. Длина игры теперь вероятностная (в среднем ~151 раунд) — чтобы нельзя было «предать на последнем ходу».

Результат. Все знали, что в первом турнире победил Tit-for-Tat, и слали стратегии, чтобы его обыграть. Tit-for-Tat Рапопорта победил снова.

Заметные участники. Джон Мэйнард Смит — биолог, отец концепции эволюционно устойчивой стратегии (ESS). Эволюционный анализ турнира Аксельрод опубликовал вместе с биологом У. Д. Гамильтоном («The Evolution of Cooperation», Science, 1981).

Четыре свойства победителя (вывод Аксельрода, почему TfT так устойчив): добрая (не предаёт первой), злопамятная (сразу мстит), отходчивая (быстро прощает), понятная (предсказуема, с ней легко выстроить кооперацию).

Фан-факты. Из всех знаменитых турниров только для второго доступен оригинальный исходный код — на FORTRAN. Первое место снова заняла та же программа от того же автора — редкий случай в истории соревнований.

// волна 3 — юбилейные конкурсы 20-летия (2004, 2005)

Организаторы. Грэм Кендалл (Ноттингем), Синь Яо, Сян Ю Чонг. Книга «The Iterated Prisoners' Dilemma: 20 Years On» (2007). Первый конкурс — июль 2004, второй — апрель 2005.

Формат. Несколько лиг: стандартная IPD (~192–223 стратегии), «шумная» (ходы иногда искажаются — league 2), мультиигроковая. Разрешалось присылать несколько стратегий от одного участника — эта лазейка и решила исход.

Команда-победитель: Саутгемптон. Университет Саутгемптона, школа электроники и информатики (ECS); руководитель — проф. Ник Дженнингс (в команде — Гопал Рамчёрн и др.). Прислали 60 программ, работавших как «хозяева» и «рабы». По первым 5–10 ходам («рукопожатие») программа узнавала своих. Свой-«раб», встретив своего-«хозяина», всё время сотрудничал и давал тому безнаказанно предавать — сливал очки хозяину. Против чужих все саутгемптонцы просто предавали, топя чужой счёт. Три верхних места — саутгемптонские «хозяева» (и множество нижних — принесённые в жертву «рабы»). Тип: командная / сговорная (collusion).

Метрики/нюанс. Победители имели меньше побед и больше поражений поштучно, но за счёт очков от «рабов» набрали максимум суммарно.
Фан-факты. Кендалл: «Это было почти как культ. Суперагенты, которые эксплуатировали всех своих друзей.» Идея — прямая иллюстрация родственного отбора: «рабы» жертвуют собой ради «генов» команды.

// волна 4 — ZD-турнир Стюарта и Плоткина (2012)

Повод. В 2012 Уильям Пресс и Фримен Дайсон открыли zero-determinant (ZD) стратегии — те, что односторонне навязывают линейную связь между своим счётом и счётом соперника. Александр Стюарт и Джошуа Плоткин перезапустили турнир Аксельрода, добавив ZD-стратегии (~19 участников). Подробнее о ZD — в объекте про zero-determinant и «скрытом этаже».

Метрики. Считали два показателя: средняя выплата и число выигранных поединков — и они разошлись драматически.

стратегиятипсредняя выплатапоединки
ZDGTFT-2 (щедрая ZD)щедрая / ZD1-е место (выше TfT и GTFT)0 побед
Tit-for-Tat, Generous-TFTотзеркаливающие / щедрыевысоко0 побед
Extort-2 (вымогатель)вымогатель / ZDпредпоследнее2-е по победам
Always Defect (ALLD)тотальный предательпочти дно1-е по победам

Ключевой вывод. Вымогатель выигрывает поединки, но проигрывает по очкам: доминировать в паре ≠ набрать больше всех. Щедрая ZD (ZDGTFT-2) обходит по очкам даже классический Tit-for-Tat. Без эволюционной популяции вымогателю некого доить — и он проваливается.

Фан-факты. Про открытие ZD Американское математическое общество написало: «мир теории игр сейчас в огне». «Победы» ALLD и Extort-2 — пирровы: обыграв TfT на первом ходу (5 против 0), дальше оба сидят на 1·1. Позже Стюарт и Плоткин показали: в эволюции вымогательство вырождается в щедрость («From extortion to generosity», 2013).

// волна 5 — Axelrod-Python (2015 → наши дни)

Что это. Открытая воспроизводимая библиотека (Винс Найт, Оуэн Кэмпбелл, Марк Харпер и десятки контрибьюторов). Впервые все стратегии в одном коде, с тестами, 200+ стратегий. Журнал открытого ПО, 2016.

Формат. Множество категорий-турниров: все «честные» стратегии, только детерминированные, только стохастические, только с конечной памятью, только memory-one, воспроизведение Стюарта–Плоткина, «шумные» и др.

Победители — обученные стратегии. Верх крупных турниров берут не рукодельные правила, а обученные машинным перебором: конечные автоматы, таблицы-справочники и нейросети, натренированные эволюционным поиском (напр. семейства Evolved LookerUp, Evolved FSM, Evolved ANN). Но и они остаются «добрыми» — начинают с сотрудничества.

Метрики. ~200 повторов на пару, тысячи раундов; ранжирование по средней выплате, отдельно — по числу побед, по кооперативности, по устойчивости к шуму.

Фан-факты. Библиотека позволила впервые точно воспроизвести и Аксельрода, и Стюарта–Плоткина — раньше это было почти невозможно. Общий урок всех волн держится: чемпион меняется (TfT → обученные автоматы), но верхушка всегда «добрая» — начинает с C.

// типология стратегий (сводная)

Краткая сводка типов — полные определения и примеры в каталоге стратегий.

типсутьпримеры
отзеркаливающиекопируют ход соперникаTit-for-Tat, Generous-TFT, Tit-for-Two-Tats
злопамятные (grim)одна измена → вечная местьGrudger/Friedman, Davis, Shubik
пробующие (sneaky)вставляют предательство «на пробу»Joss, Tideman–Chieruzzi, Graaskamp
моделирующиестроят модель соперникаDowning, Nydegger
щедрыеиногда прощают просто такGenerous-TFT, ZDGTFT-2, Pavlov
вымогатели (ZD)навязывают невыгодный размен силойExtort-2, класс zero-determinant
командные (сговор)узнают своих и жертвуют собойСаутгемптон (master/slave)
тотальныевсегда C или всегда DALLC, ALLD
случайныеэталон 50/50RANDOM
обученные (ML)натренированы перебором/эволюциейEvolved LookerUp / FSM / ANN
// сквозная мораль (по всем турнирам)
  1. Добрым быть выгодно. Во всех волнах верхние места держат стратегии, не предающие первыми.
  2. Простое обыгрывает сложное — в честном турнире (Tit-for-Tat из 4 строк).
  3. Обмануть можно только сменив правила — сговором (Саутгемптон) или найдя новый класс (ZD); но каждая такая победа рассыпается в реальной популяции.
  4. Поединок ≠ мир. Вымогатель и предатель выигрывают дуэли, но проигрывают по сумме — потому что кооперация окупается на дистанции и в толпе.

Источники: Axelrod (1984); Kendall, Yao & Chong (2007); Stewart & Plotkin, PNAS (2012); Knight et al., J. Open Research Software (2016); Wikipedia «Prisoner's dilemma»; арх. Axelrod-Python.