主题
重复囚徒困境锦标赛:经典策略与学习型智能体
博弈设定
每轮两名玩家同时选择合作(C)或背叛(D),收益矩阵为
| 对方合作 | 对方背叛 | |
|---|---|---|
| 我合作 | R(3) | S(0) |
| 我背叛 | T(5) | P(1) |
单轮博弈的唯一纳什均衡是双方背叛,但双方合作(各得 3)对两人都更好——这是“个体理性导致集体非理性”的经典例子。博弈重复进行时,未来的报复让合作成为可能。
两个学习型智能体
两个 Q-learning 智能体的状态是“上一轮双方的动作”,每场比赛从零开始边玩边学(ε 逐渐减小)。短视的智能体
在下方的“两个 Q-learning 互相学习”实验里,每个智能体都把对方当成环境的一部分——但对方的策略在不断变化,环境不再平稳,这正是独立学习(IQL)在多智能体问题中的根本困难。
可以试试
- 默认设置下跑一次:TFT、宽容 TFT 等“善良且可报复”的策略通常名列前茅,“永远背叛”排在中后段。
- 失误率调到 0.05:两个 TFT 之间一次失误就会引发无休止的互相报复,宽容 TFT 和巴甫洛夫的优势变得明显。
- 取消“永远合作”和“随机”这些“好欺负”的对手:背叛型策略的得分立刻下降。