전략적 상황에 처한 경제주체들의 행동을 분석하는데 유용하게 활용되는 게임이론의 한 예로서, 협력적인 선택이 양자에게 최선임에도 불구하고 자신의 이익에 치중한 선택으로 인해 오히려 두 사람 모두에게 바람직하지 않은 결과를 가져오는 상황을 말한다.
죄수의 딜레마(Prisoners’ Dilemma)는 1950년 미국 프린스턴대 터커(A. Tucker) 교수가 게임이론을 설명하기 위해 이용한 다음의 예화에서 비롯되었다.
경찰이 두 용의자 Ⅰ, Ⅱ를 격리하여 심문하면서 자백을 이끌어 내려고 다음과 같이 말하였다고 가정한다.
① 한 사람이 자백하고 다른 사람은 입을 다물었다면 자백한 사람은 1단위의 보상, 입을 다문 사람은 2단위의 벌금형이 부과된다. ② 두 사람이 모두 자백하면 각각에게는 1단위의 벌금형이 부과된다. ③ 두 사람이 모두 자백하지 않으면 Ⅰ과 Ⅱ는 혐의가 없다.
이러한 상황에서 두 사람이 직면하는 보상행렬은 아래와 같아지는데, Ⅰ과 Ⅱ는 모두 상대방의 전략과 상관없이 자백하는 전략을 선택하게 되므로 결과적으로 두 사람이 서로를 믿고 자백하지 않는 전략을 취할 때보다 나쁜 결과에 직면하게 된다.
즉 개인적인 수준에서는 합리적인 선택이 구성원 전체로 보아서는 비합리적인 선택이 되는 결과를 가져오는 딜레마를 낳게 되는데, 이 같은 죄수의 딜레마 문제는 광고경쟁, 기업의 환경오염, 국가간 군비경쟁 등 다양한 상황에 적용될 수 있다.