민주주의는 실현 가능한가? 수학이 밝힌 한계와 현실 -

민주주의는 오랜 세월 동안 세계 대부분의 국가가 채택해 온 정치 체제이다. 미국에서 이 민주주의 체제는 18세기 후반 헌법 초안 작성에서 시작되었다. 하지만 다소 불편한 진실이지만, 진정한 민주주의는 실현하기 어렵고 완전히 합리적으로 달성할 수 있는 것도 아니다.

인간 본성의 변덕스러움을 떠나서라도, 수학적으로 민주주의와 선거 시스템 자체에 결함이 있다는 사실이 드러난다. 인류가 꿈꾸는 이상적인 민주주의는 실현 불가능에 가깝고, 이를 뒷받침하는 증거는 수치로 명확히 입증된다.

그렇다면 민주주의는 왜 실현 불가능한 것일까? 

© Shutterstock

고대 투표 제도 -

세계에서 가장 오래되고 간단한 투표 방식 중 하나는 '단순 다수제(First Past the Post)'로, 유권자가 한 명의 후보를 선택하고 가장 많은 표를 얻은 후보가 승리하는 방식이다. 겉보기엔 단순해 보이지만, 이 방식은 민주주의의 공정성을 해치는 문제점을 안고 있다.

© Getty Images

역사적 뿌리 -

14세기 영국 하원에서 시작된 이 제도는 여전히 44개국에서 사용되며, 그중 다수가 영국의 식민지였던 나라들이다. 한국의 국회의원 선거에서도 지역구 의원 선출에 이 방식을 채택하고 있다.

© Getty Images

단순 다수제의 오점 -

이에 따른 문제점은 대부분의 사람들이 실제로 투표한 후보가 아닌 다른 후보가 당선되는 경우가 있다는 점이다. 예를 들어 2016년 미국 대선에서 도널드 트럼프가 힐러리 클린턴보다 적은 득표를 했음에도 대통령에 당선된 사례가 대표적이다.

© Getty Images

군소후보 효과 -

또한, 2000년 미국 대선에서는 '군소후보 효과'가 두드러졌다. 제3당 후보였던 랄프 네이더가 앨 고어의 표를 '가져가'면서 조지 W. 부시가 당선되도록 도왔다. 이렇듯 단순 다수제는 유권자의 선호도 표현을 제한하여 결과를 왜곡하는 경우가 생긴다.

© Getty Images

양당제를 촉진하는 경향 -

단순 다수제는 유권자가 가장 선호하는 정당이 아닌, 전략적으로 표를 던지게 만드는 구조적 결함을 가진다. 결국 권력이 대형 정당에 집중되고, 양당제로 굳어지기 쉽다.

© Shutterstock

뒤베르제의 법칙 -

정치학자 모리스 뒤베르제는 단순 다수제와 같은 승자독식 방식이 궁극적으로 양당제로 수렴하게 된다고 설명했다. 이 제도에서는 유권자의 선택이 제한되며, 소수 정당은 더욱 약화된다.

© Getty Images

선호투표제 -

단순 다수제의 대안으로는 '선호투표제'가 있다. 이 방식에서는 유권자가 하나의 후보만 선택하는 대신, 선호 순대로 후보들의 순위를 매긴다. 과반수(50% 이상)의 1순위 표를 얻은 후보가 당선된다. 과반수를 얻은 후보가 없을 경우, 최하위 득표 후보를 탈락시키고 그 후보에게 투표한 사람들의 2순위 표를 재분배하는 방식이다.

© Shutterstock

공정하게 반영되는 유권자의 선호 -

이러한 투표 방식을 '순위선택투표'라고도 부르며, 순위를 기반으로 후보를 순차적으로 제거해 최종 과반수를 확보한 후보가 당선된다. 이는 반복적인 선거를 모방하면서도 시간을 절약해, 유권자의 선호가 보다 공정하게 반영된다.

© Getty Images

줄어든 네거티브 캠페인 -

선호투표제 하에서는 후보들이 경쟁 중에도 대립적인 캠페인을 자제하는 경향이 있다. 실제로 2013년 미니애폴리스 시장 선거에서는 후보들이 2순위, 3순위 표를 얻기 위해 서로 예의를 갖추고 존중하는 모습을 보였다.

© Getty Images

여전히 완벽하지 않은 방식 -

선호투표제가 일부 문제를 완화해 주긴 하지만, 여전히 완벽하지 않다. 경우에 따라 후보의 저조한 성적이 오히려 유리하게 작용하는 역설적인 상황이 발생할 수 있기 때문이다.

© Shutterstock

공정한 투표 시스템 -

프랑스 수학자 니콜라 드 콩도르세는 다수의 선호를 정확하게 반영하는 투표 시스템을 만들기 위해 사회 선택 이론을 제안했다. 그의 연구는 공정한 대표성을 강조했던 프랑스 혁명 시기에 등장했으며, 투표 과학의 기초를 다졌다.

© Getty Images

보르다 계산법 -

같은 시기, 또 다른 프랑스 수학자인 장샤를 드 보르다는 순위에 따라 점수를 부여하는 방식을 제안했다. 예를 들어, 유권자가 1순위로 지목한 후보는 4점을, 2순위 후보는 3점을 받는 식이다.

© Getty Images

비판적 의견 -

콩도르세는 보르다의 방식이 후보 수와 같은 무관한 요소에 의해 결과가 불공정하게 영향을 받을 수 있다고 비판했다.

© Shutterstock

정면 대결 -

1785년, 콩도르세는 각 후보가 개별 1:1 대결에서 다른 후보를 이길 수 있어야 승자가 되는 시스템을 제안했다. 실제로 다수의 선거를 치르지 않고, 선호투표제를 활용해 각 후보가 가장 높은 순위를 많이 받는지를 평가하는 방식이었다. 이는 보다 공정한 평가로 여겨졌다.

© Shutterstock

루이의 쌍대 비교 투표법 -

13세기의 수도사 라몬 룰 역시 교회 지도자 선출을 위한 비슷한 방식을 제안한 바 있다. 그의 연구는 당시에는 주목받지 못했으나, 2001년에 재발견되었다.

© Public Domain

역설 -

안타깝게도, 콩도르세는 자신의 시스템에서 역설을 발견했다. 순위 선호에 따라 순환적인 결과가 나타날 수 있다는 점이었다. 충분히 많은 사람들이 서로 다른 후보를 동일하게 평가한다면 명확한 승자가 없는 교착 상태가 발생할 수 있었다. 콩도르세는 이 문제를 해결하지 못한 채 생을 마감했다.

© Shutterstock

실패한 시도 -

콩도르세 사후 150년 동안, 루이스 캐럴을 비롯한 여러 수학자가 완벽한 투표 방식을 개발하려고 시도했다. 다양한 수정과 제안이 이어졌지만, 콩도르세와 보르다가 지적했던 문제를 완벽히 해결하는 시스템은 나오지 않았다.

© Getty Images

불가능성 정리 -

1951년, 미국 경제학자 케네스 애로는 선거에 후보가 세 명 이상일 경우, 어떤 순위 투표 방식도 모든 필수 공정성 기준을 완벽히 충족할 수 없음을 증명했다. 이 불가능성 정리는 애로에게 노벨상을 안겨주었으며, 선호투표제(순위 투표)의 한계를 공식화했다.

© Getty Images

5가지 투표의 조건 -

애로는 모든 조건을 동시에 만족시키는 투표 방식은 존재하지 않는다는 것을 입증했다. 그의 불가능성 정리는 ‘투표의 역설’ 현상 때문에 합리적이면서 동시에 민주적인 조건을 충족시키는 다수결의 투표방식은 존재하지 않는다는 이론으로 애로우는 5가지 투표의 조건을 가정했다.

© Shutterstock

1. 파레토 효율성 (만장일치) -

모든 개인이 A 대안을 B 대안보다 선호한다면, 사회적 선택도 A를 B보다 선호해야 한다. 이는 '파레토의 원칙'이라고도 불린다.

© Shutterstock

2. 비독재성 -

두 번째 조건인 비독재성은 한 유권자의 표가 전체 결과를 좌우해서는 안 된다는 것을 의미한다. 이는 민주주의의 핵심 원칙으로, 한 사람의 투표가 전체 결과를 결정하면 독재가 되기 때문이다. 

© Shutterstock

3. 무제한 도메인 -

세 번째 조건은 모든 사람이 자유롭게 투표할 수 있으며, 그들의 투표가 무시되지 않아야 한다는 것이다. 이 조건은 포용성을 보장하고, 임의적이거나 편향된 결정을 피하는 데 필수적이다.

© Shutterstock

4. 이행성 -

이행성 조건은 유권자들이 A 후보를 B 후보보다, B 후보를 C 후보보다 선호할 경우, 논리적으로 A 후보가 C 후보보다 선호되어야 한다는 것을 요구한다. 이는 후보들 간의 순위가 논리적 일관성을 가지도록 한다.

© Shutterstock

5. 무관한 대안으로부터의 독립성 -

마지막 조건은 새로운 후보가 등장하거나 사라지더라도 기존의 선호에 영향을 주어서는 안 된다는 것이다. 즉, 특정 후보가 다른 후보보다 선호되는 상황에서 제3의 후보가 등장해도 기존 선호가 변하지 않아야 한다.

© Shutterstock

수학적으로 불가능한 공정한 투표 시스템 -

애로의 증명에 따르면, 그의 다섯 가지 조건을 만족시키는 어떤 순위 투표 시스템도 최종적으로는 선호를 조정하는 '독재자'가 필요하게 되는데, 이는 민주주의의 원칙을 훼손한다. 따라서 3인 이상의 후보가 있을 때 완벽하게 공정한 투표 시스템을 수학적으로 달성하는 것은 불가능하다.

© Shutterstock

핵심 유권자 -

애로우의 정리에 따르면 다섯 가지 조건 하에서 단 한 표로 당선자를 결정하는 사람(핵심 유권자)은 본질적으로 독재 권력을 갖게된다.

© Shutterstock

승인 투표제 -

대안으로 '승인투표제' 같은 평가 방식이 있다. 이 방식에서는 유권자가 선호하는 모든 후보에게 투표할 수 있어, 여러 후보를 지지하면서도 표가 '낭비'될 걱정을 덜 수 있다. 연구에 따르면, 평가 투표는 부정적인 선거 운동을 줄이고 공정성을 높이며, 유권자들이 더 많은 후보를 지지할 수 있게 한다.

© Shutterstock

과거 사례 -

승인투표제는 1294년에서 1621년 사이에 바티칸 선거에서 사용되었고, 유엔 사무총장 선출에서도 사용된다. 특정 상황에서는 효과적이지만, 대규모 선거에서 널리 채택되지는 않았다.

© Getty Images

그나마 나은 방법 -

케네스 애로는 처음에는 이 승인투표제 방식에 회의적이었으나, 선호투표제보다 독재와 역설을 피할 수 있는 장점이 있음을 인정하게 되었다.

© Shutterstock

윈스턴 처칠의 유명한 말씀 -

정치에 참여하는 것은 세상에 변화를 가져올 수 있는 몇 안 되는 방법 중 하나로 매우 중요하다. 윈스턴 처칠이 말했듯이 “민주주의는 최악의 정부 형태지만, 그동안 시도된 다른 모든 형태를 제외하고는 최고이다.”

© Getty Images

가장 나은 선택 -

결국, 수학적으로 복잡하고 불완전하지만, 민주주의는 우리가 가진 가장 나은 선택지로 남아 있다. 민주주의가 추구하는 공정성과 대표성의 원칙은 가치 있는 도전이다.

출처: (Veritasium) (Yale University Press) (Journal of Political Economy) (American Political Science Review) (Britannica)

© Getty Images