| тип | каталог · 5 волн · повторяющаяся дилемма заключённого |
| диапазон | 1980 — наши дни · Аксельрод · Саутгемптон · ZD · open-source |
| связано | стратегии IPD · визуал Аксельрода · эволюция кооперации |
Повторяющаяся дилемма заключённого (IPD): каждый раунд — «сотрудничать (C) или предать (D)». Выплаты: взаимное C = 3·3, взаимное D = 1·1, предал сотрудничающего = 5, оказался предан = 0. Играют много раундов, счёт копится. Ниже — все известные турниры, их участники, команды, стратегии, типы, метрики и фан-факты. Определения стратегий — в каталоге стратегий; хроника — в «эволюции кооперации».
| год | турнир | организатор(ы) | участников | формат | победитель |
|---|---|---|---|---|---|
| 1980 | Первый турнир Аксельрода | Роберт Аксельрод (Мичиган) | 14 + RANDOM | round-robin, 200 раундов, 5 повторов | Tit-for-Tat (Рапопорт) |
| 1980–81 | Второй турнир Аксельрода | Аксельрод; эволюц. анализ с У. Д. Гамильтоном | 62, из 6 стран | вероятностный конец игры | Tit-for-Tat (Рапопорт) |
| 2004 | 20-летие, конкурс | Кендалл, Яо, Чонг (Ноттингем/Бирмингем) | 223 (лига 1) | несколько лиг, в т.ч. «шумная» | Саутгемптон (сговор 60 ботов) |
| 2005 | 20-летие, повтор | те же | 192 (лига 1) | лиги: стандарт, шум, мультиигрок | стратегии-команды |
| 2012 | ZD-турнир | Стюарт, Плоткин (Пенсильвания) | ~19 | Аксельрод + zero-determinant | ZDGTFT-2 (по очкам) |
| 2015+ | Axelrod-Python | Найт, Кэмпбелл, Харпер и др. (open-source) | 200+ | много категорий, воспроизводимо | обученные (ML) стратегии |
Формат. Round-robin: каждая стратегия против каждой (и против своей копии, и против RANDOM), 200 раундов, 5 повторов, счёт — средняя выплата. Приглашены эксперты пяти дисциплин: психология, политология, экономика, социология, математика. Программы на FORTRAN.
Метрики. Победитель Tit-for-Tat — средний счёт ≈ 504.5. Разрыв со вторым местом — около 4 очков. Визуал турнира →
| # | стратегия | автор | дисциплина | описание | тип |
|---|---|---|---|---|---|
| 1 | Tit-for-Tat | Анатоль Рапопорт | математика/психология | C на первом ходу, дальше копирует прошлый ход соперника | отзеркаливающая |
| 2 | Tideman & Chieruzzi | Т. Н. Тайдмен, П. Черуцци | экономика | TfT, но периодически «пробует» предать и наказывает по нарастающей | пробующая |
| 3 | Nydegger | Руди Найдеггер | психология | решает по исходам трёх последних ходов (сложная память) | моделирующая |
| 4 | Grofman | Бернард Грофман | политология | в основном взаимна, но с вероятностными послаблениями | отзеркаливающая |
| 5 | Shubik | Мартин Шубик | экономика/ТИ | TfT с нарастающим наказанием: каждая измена карается дольше | злопамятная |
| 6 | Stein & Rapoport | У. Стайн, А. Рапопорт | математика/психология | TfT + статистический тест: не случаен ли соперник | отзеркаливающая |
| 7 | Grudger (Friedman) | Джеймс Фридман | экономика | «grim»: сотрудничает, пока не предали; одна измена — и мстит до конца | злопамятная |
| 8 | Davis | Мортон Дэвис | математика | 10 ходов молча сотрудничает, при измене переходит в grim | злопамятная |
| 9 | Graaskamp | Джим Граскамп | недвижимость | TfT + пробные предательства, чтобы «прощупать» соперника | пробующая |
| 10 | Downing | Лесли Даунинг | психология | строит модель соперника и максимизирует ожидаемый выигрыш | моделирующая |
| 11 | Feld | Скотт Фелд | социология | TfT, но к концу игры всё чаще предаёт | пробующая |
| 12 | Joss | Иоганн Йосс | математика | «хитрый TfT»: изредка предаёт вместо копии | пробующая (sneaky) |
| 13 | Tullock | Гордон Таллок | экономика | кооперирует чуть реже среднего | случайно-смещённая |
| 14 | (без имени) | аноним | политология | заявка аспиранта-политолога | — |
| + | RANDOM | Аксельрод | — | эталон: 50/50 C/D | случайная |
Вывод турнира. Победили «добрые» (nice) стратегии — те, что никогда не предают первыми. Все восемь лучших были добрыми; все худшие — недобрыми.
Фан-факты. Tit-for-Tat была самой короткой программой турнира — четыре строки. Простое обыграло сложное. Даунинг, пытавшийся моделировать соперников, проиграл — слишком пессимистично оценивал их и провоцировал конфликт. Граскамп был слепым профессором недвижимости из Висконсина.
Формат. После публикации результатов первого турнира Аксельрод позвал всех желающих. 62 стратегии из 6 стран, от школьников-любителей до профессоров. Длина игры теперь вероятностная (в среднем ~151 раунд) — чтобы нельзя было «предать на последнем ходу».
Результат. Все знали, что в первом турнире победил Tit-for-Tat, и слали стратегии, чтобы его обыграть. Tit-for-Tat Рапопорта победил снова.
Заметные участники. Джон Мэйнард Смит — биолог, отец концепции эволюционно устойчивой стратегии (ESS). Эволюционный анализ турнира Аксельрод опубликовал вместе с биологом У. Д. Гамильтоном («The Evolution of Cooperation», Science, 1981).
Четыре свойства победителя (вывод Аксельрода, почему TfT так устойчив): добрая (не предаёт первой), злопамятная (сразу мстит), отходчивая (быстро прощает), понятная (предсказуема, с ней легко выстроить кооперацию).
Фан-факты. Из всех знаменитых турниров только для второго доступен оригинальный исходный код — на FORTRAN. Первое место снова заняла та же программа от того же автора — редкий случай в истории соревнований.
Организаторы. Грэм Кендалл (Ноттингем), Синь Яо, Сян Ю Чонг. Книга «The Iterated Prisoners' Dilemma: 20 Years On» (2007). Первый конкурс — июль 2004, второй — апрель 2005.
Формат. Несколько лиг: стандартная IPD (~192–223 стратегии), «шумная» (ходы иногда искажаются — league 2), мультиигроковая. Разрешалось присылать несколько стратегий от одного участника — эта лазейка и решила исход.
Команда-победитель: Саутгемптон. Университет Саутгемптона, школа электроники и информатики (ECS); руководитель — проф. Ник Дженнингс (в команде — Гопал Рамчёрн и др.). Прислали 60 программ, работавших как «хозяева» и «рабы». По первым 5–10 ходам («рукопожатие») программа узнавала своих. Свой-«раб», встретив своего-«хозяина», всё время сотрудничал и давал тому безнаказанно предавать — сливал очки хозяину. Против чужих все саутгемптонцы просто предавали, топя чужой счёт. Три верхних места — саутгемптонские «хозяева» (и множество нижних — принесённые в жертву «рабы»). Тип: командная / сговорная (collusion).
Метрики/нюанс. Победители имели меньше побед и больше поражений поштучно, но за счёт очков от «рабов» набрали максимум суммарно.
Фан-факты. Кендалл: «Это было почти как культ. Суперагенты, которые эксплуатировали всех своих друзей.» Идея — прямая иллюстрация родственного отбора: «рабы» жертвуют собой ради «генов» команды.
Повод. В 2012 Уильям Пресс и Фримен Дайсон открыли zero-determinant (ZD) стратегии — те, что односторонне навязывают линейную связь между своим счётом и счётом соперника. Александр Стюарт и Джошуа Плоткин перезапустили турнир Аксельрода, добавив ZD-стратегии (~19 участников). Подробнее о ZD — в объекте про zero-determinant и «скрытом этаже».
Метрики. Считали два показателя: средняя выплата и число выигранных поединков — и они разошлись драматически.
| стратегия | тип | средняя выплата | поединки |
|---|---|---|---|
| ZDGTFT-2 (щедрая ZD) | щедрая / ZD | 1-е место (выше TfT и GTFT) | 0 побед |
| Tit-for-Tat, Generous-TFT | отзеркаливающие / щедрые | высоко | 0 побед |
| Extort-2 (вымогатель) | вымогатель / ZD | предпоследнее | 2-е по победам |
| Always Defect (ALLD) | тотальный предатель | почти дно | 1-е по победам |
Ключевой вывод. Вымогатель выигрывает поединки, но проигрывает по очкам: доминировать в паре ≠ набрать больше всех. Щедрая ZD (ZDGTFT-2) обходит по очкам даже классический Tit-for-Tat. Без эволюционной популяции вымогателю некого доить — и он проваливается.
Фан-факты. Про открытие ZD Американское математическое общество написало: «мир теории игр сейчас в огне». «Победы» ALLD и Extort-2 — пирровы: обыграв TfT на первом ходу (5 против 0), дальше оба сидят на 1·1. Позже Стюарт и Плоткин показали: в эволюции вымогательство вырождается в щедрость («From extortion to generosity», 2013).
Что это. Открытая воспроизводимая библиотека (Винс Найт, Оуэн Кэмпбелл, Марк Харпер и десятки контрибьюторов). Впервые все стратегии в одном коде, с тестами, 200+ стратегий. Журнал открытого ПО, 2016.
Формат. Множество категорий-турниров: все «честные» стратегии, только детерминированные, только стохастические, только с конечной памятью, только memory-one, воспроизведение Стюарта–Плоткина, «шумные» и др.
Победители — обученные стратегии. Верх крупных турниров берут не рукодельные правила, а обученные машинным перебором: конечные автоматы, таблицы-справочники и нейросети, натренированные эволюционным поиском (напр. семейства Evolved LookerUp, Evolved FSM, Evolved ANN). Но и они остаются «добрыми» — начинают с сотрудничества.
Метрики. ~200 повторов на пару, тысячи раундов; ранжирование по средней выплате, отдельно — по числу побед, по кооперативности, по устойчивости к шуму.
Фан-факты. Библиотека позволила впервые точно воспроизвести и Аксельрода, и Стюарта–Плоткина — раньше это было почти невозможно. Общий урок всех волн держится: чемпион меняется (TfT → обученные автоматы), но верхушка всегда «добрая» — начинает с C.
Краткая сводка типов — полные определения и примеры в каталоге стратегий.
| тип | суть | примеры |
|---|---|---|
| отзеркаливающие | копируют ход соперника | Tit-for-Tat, Generous-TFT, Tit-for-Two-Tats |
| злопамятные (grim) | одна измена → вечная месть | Grudger/Friedman, Davis, Shubik |
| пробующие (sneaky) | вставляют предательство «на пробу» | Joss, Tideman–Chieruzzi, Graaskamp |
| моделирующие | строят модель соперника | Downing, Nydegger |
| щедрые | иногда прощают просто так | Generous-TFT, ZDGTFT-2, Pavlov |
| вымогатели (ZD) | навязывают невыгодный размен силой | Extort-2, класс zero-determinant |
| командные (сговор) | узнают своих и жертвуют собой | Саутгемптон (master/slave) |
| тотальные | всегда C или всегда D | ALLC, ALLD |
| случайные | эталон 50/50 | RANDOM |
| обученные (ML) | натренированы перебором/эволюцией | Evolved LookerUp / FSM / ANN |
- Добрым быть выгодно. Во всех волнах верхние места держат стратегии, не предающие первыми.
- Простое обыгрывает сложное — в честном турнире (Tit-for-Tat из 4 строк).
- Обмануть можно только сменив правила — сговором (Саутгемптон) или найдя новый класс (ZD); но каждая такая победа рассыпается в реальной популяции.
- Поединок ≠ мир. Вымогатель и предатель выигрывают дуэли, но проигрывают по сумме — потому что кооперация окупается на дистанции и в толпе.
Источники: Axelrod (1984); Kendall, Yao & Chong (2007); Stewart & Plotkin, PNAS (2012); Knight et al., J. Open Research Software (2016); Wikipedia «Prisoner's dilemma»; арх. Axelrod-Python.
эссе: эволюция кооперации · скрытый этаж · математика предательства
объекты: стратегии повторяющейся игры · zero-determinant стратегии · дилемма заключённого
визуал: турниры Аксельрода